Мета-инструмент для блокировки изображений обнаженной натуры в личных сообщениях подростков

Компания Meta заявила, что в конце этого года запустит новый инструмент безопасности, который будет блокировать получение детьми и удерживать их от отправки обнаженных изображений, в том числе в зашифрованных чатах.

Инструмент, вероятно, будет необязательным и доступным для взрослых в Instagram и Facebook.

Это стало результатом критики со стороны правительства и полиции после того, как Meta начала шифровать чаты Messenger по умолчанию.

По их мнению, шифрование затруднит выявление случаев жестокого обращения с детьми.

По словам представителей Meta, новая функция предназначена исключительно для защиты пользователей, особенно женщин и подростков (младше 13 лет не имеют права пользоваться ее платформами), от отправки обнаженных изображений или давления на них.

Компания также объявила, что несовершеннолетние по умолчанию не смогут получать сообщения в Instagram и Messenger от незнакомцев.

Ранее в этом месяце руководители полиции заявили, что отправка обнаженных изображений подростками способствовала росту числа сексуальных преступлений, совершенных детьми в Англии и Уэльсе.

А в судебных документах, недавно обнародованных в рамках иска США против Meta, утверждается, что документы компании показывают, что примерно 100 000 пользователей-подростков Facebook и Instagram ежедневно подвергаются сексуальным домогательствам в сети. Meta обвинила иск в неправильном описании своей работы.

Но в четверг технологический гигант раскрыл новую функцию, которая должна помочь защитить подростков от неприемлемых изображений в сообщениях.

Эта система также будет работать в зашифрованных чатах, а более подробная информация будет раскрыта позднее в этом году.

Недавнее решение Meta о защите чатов Facebook Messenger по умолчанию с помощью сквозного шифрования (e2ee) подверглось резкой критике со стороны правительства, полиции и ведущих детских благотворительных организаций.

E2ee означает, что только отправитель и получатель могут читать сообщения, а значит, по мнению критиков, Meta не сможет обнаруживать и сообщать о материалах, содержащих насилие над детьми, в сообщениях.

Другие приложения для обмена сообщениями, такие как iMessage от Apple, Signal и уже принадлежащий Meta WhatsApp, используют эту технологию и решительно защищают ее.

Однако некоторые критики утверждают, что платформы должны использовать технику, называемую сканированием на стороне клиента, для обнаружения материалов о насилии над детьми, отправляемых через зашифрованные приложения.

Под сканированием на стороне клиента подразумеваются системы на устройстве пользователя, которые проверяют сообщения на совпадение с известными изображениями насилия над детьми перед их шифрованием и отправкой и сообщают компании о тех, которые содержат подозрительный незаконный контент.

Детская благотворительная организация NSPCC заявила, что новая система Meta "показывает, что компромиссы, уравновешивающие безопасность и права пользователей на конфиденциальность в сквозных зашифрованных средах, возможны".

Согласно Meta, ее новая функция не является сканированием на стороне клиента, что, по ее мнению, подрывает главную функцию шифрования, защищающую конфиденциальность, - о содержимом сообщений знают только отправитель и получатель.

Она будет использовать машинное обучение только для выявления обнаженной натуры и будет работать исключительно на устройстве, сообщает BBC. По мнению Meta, использовать машинное обучение для выявления случаев жестокого обращения с детьми гораздо сложнее, и при попытке сделать это среди миллиардов пользователей возникнет серьезный риск ошибок, что может привести к серьезным последствиям для невинных людей.

Вместо этого для защиты детей используется целый ряд систем, которые, по мнению Meta, не нарушают неприкосновенность частной жизни, в том числе:

• Системы, которые выявляют взрослых, ведущих себя подозрительно, и не позволяют им общаться с несовершеннолетними 18 лет или находить и преследовать других подозрительных взрослых.
• Предотвращение контактов взрослых с несовершеннолетними с помощью мер, ограничивающих возможность подростков старше 18 лет писать сообщения подросткам, которые не следуют за ними.

Новые инструменты

Компания Meta утверждает, что представила более 30 инструментов и ресурсов для обеспечения безопасности детей, а в четверг она также показала ряд новых функций для обеспечения безопасности детей.

По умолчанию дети не смогут получать сообщения в Instagram или Facebook Messenger от людей, за которыми они не следят или с которыми не связаны, объявила компания.

Политика Meta уже не позволяет взрослым отправлять сообщения подросткам, которые за ними не следят.

"Согласно новой настройке по умолчанию, подростки смогут получать сообщения или добавляться в групповые чаты только от людей, за которыми они уже следят или с которыми связаны", - говорится в блоге Meta.

Инструменты родительского контроля теперь также позволят родителям отклонять просьбы подростков об изменении их стандартных настроек безопасности - например, о том, кто может писать им прямые сообщения или просматривать более чувствительный контент. Раньше их просто уведомляли об изменениях.