ФБР нанимает искусственный интеллект Amazon Rekognition для поиска "обнаженной натуры, оружия и взрывчатки

Согласно документам Министерства юстиции США, ФБР планирует использовать спорный облачный сервис Rekognition компании Amazon "для извлечения информации и выводов из законно полученных изображений и видео".

В своем документе Agency Inventory of AI Use Cases Минюст США указывает, что проект под кодовым названием Tyr находится на стадии "инициации" для ФБР, которое намерено настроить и использовать технологию "для просмотра и идентификации предметов, содержащих обнаженную натуру, оружие, взрывчатые вещества и другую идентифицирующую информацию".

В документе Минюста не упоминается дата начала работы, и просто говорится, что федералы будут использовать коммерческую систему на основе Rekognition, предварительно приобретенную у третьей стороны. ФБР отказалось от комментариев, и хотя Amazon пообещала The Register сделать заявление в ответ на наш запрос, оно так и не поступило.

По словам представителей Amazon, помимо услуг по распознаванию и анализу лиц, Rekognition также может искать объекты в библиотеках изображений и видео и обнаруживать "неуместный, нежелательный или оскорбительный контент", а также обладает другими возможностями.

Ранее Amazon обещала бессрочно запретить полиции использовать Rekognition, но с некоторыми лазейками. Однако она не запретила продавать сервис правительственным агентствам или третьим сторонам, которые впоследствии могут предоставить технологию полицейским.

Так что, если честно, Project Tyr не нарушает никаких прежних обещаний облачного гиганта. Однако он появился в то время, когда опасения по поводу слежки без ордера, похоже, только усиливаются, особенно если слежку ведет ФБР.

Ранее на этой неделе Amazon заявила, что отменяет "легкую кнопку", позволявшую правоохранительным органам запрашивать видеозаписи звонков без ордера. В частности, Amazon отменила функцию "Запрос о помощи" в приложении "Соседи", которая позволяла правоохранительным органам выуживать видеозаписи клиентов Ring. Теперь полицейским придется сначала спросить.

Этот шаг вызвал одобрение со стороны защитников конфиденциальности данных и гражданских свобод.

"Возможность правоохранительных органов использовать приложение Neighbors для массового запроса видеозаписей у владельцев камер всегда была опасной и, по имеющимся данным, усиливала расовое профилирование", - заявил в интервью The Register директор Fight for the Future Эван Грир.

С другой стороны, новость о том, что ФБР использует Rekognition, вызвала совсем другую реакцию.

"Я считаю, что важно изучить практику ФБР и Amazon в этой области", - сказал Джейк Лаперрук, заместитель директора проекта по безопасности и наблюдению Центра демократии и технологий (CDT).

"ФБР разрешает широко использовать распознавание лиц в расследованиях (для сканирования людей даже не обязательно называть их подозреваемыми), программирует свои системы так, чтобы они всегда возвращали совпадения, даже если эти совпадения ненадежны, и скрывает использование распознавания лиц от обвиняемых", - сказал Лаперрук в интервью The Register.

"Учитывая все эти факторы, было бы очень неприятно, если бы Amazon отказалась от своего обещания не продавать систему распознавания лиц правоохранительным органам", - добавил он. "Нет никаких федеральных законов, ограничивающих использование ФБР и другими агентствами этой инвазивной технологии, а их собственная политика слишком мягкая. Пока это дикий запад в плане использования, нет оправдания отступлению". ®

Обновлено для добавления

Вскоре после публикации этой статьи мы получили ответ от Amazon. Пресс-секретарь Дункан Нишам сообщил нам, что, по мнению веб-гиганта, использование ФБР функции Rekognition не нарушает мораторий на запрет полиции использовать функции API для сравнения лиц.

"Как мы уже неоднократно говорили и продолжаем твердо верить, - продолжил Нишам, - компании и правительственные организации должны использовать существующие и новые технологии ответственно и законно. Мы также считаем, что правительствам следует ввести правила, регулирующие этичное использование технологии распознавания лиц, и мы готовы помочь им разработать соответствующие правила, если они того потребуют".

О том, давала ли Amazon советы или директивы федералам о том, как безопасно и продуманно использовать Rekognition, представитель компании рассказал следующее:

Мы предоставляем рекомендации всем клиентам Rekognition, включая клиентов правоохранительных органов, по правильному и ответственному использованию Rekognition (например, в руководствах для разработчиков Rekognition и на нашей странице "Ответственный ИИ"), и у нас есть четкая политика приемлемого использования и политика ответственного ИИ.

Например, условия предоставления услуг AWS регулируют использование наших сервисов, включая разделы 50.8 (который относится к использованию Rekognition правоохранительными органами) и 50.9, где говорится: "Amazon ввела мораторий на использование функции сравнения лиц Amazon Rekognition полицейскими департаментами в связи с уголовными расследованиями. Этот мораторий не распространяется на использование функции сравнения лиц Amazon Rekognition для помощи в идентификации или поиске пропавших людей".