Microsoft удаляет порнографию из поиска Bing с помощью нового инструмента

Сегодня компания Microsoft объявила о сотрудничестве с StopNCII, чтобы проактивно удалять вредные интимные изображения и видео из Bing с помощью цифровых хэшей, создаваемых людьми на своих конфиденциальных носителях.

StopNCII - это проект, осуществляемый организацией Revenge Porn Helpline, который позволяет людям создавать цифровые хэши своих интимных фотографий и видео, не загружая их со своего телефона. Затем StopNCII добавляет эти хэши в базу данных, используемую для поиска таких же или похожих изображений в Интернете, которые затем удаляются их партнерами, включая Facebook, TikTok, Reddit, Pornhub, Instagram, OnlyFans и Snapchat.

В марте Microsoft поделилась с StopNCII своей технологией PhotoDNA, позволяющей создавать цифровые хэши, не покидая устройства человека.

«Подобно технологии хэширования, которую уже использует StopNCII.org (PDQ), PhotoDNA - это дополнительный процесс, позволяющий хэшировать идентифицированные вредные изображения в цифровой отпечаток пальца, который затем может быть передан промышленным платформам для идентификации и удаления любых материалов, содержащих неконсенсусные интимные изображения», - поясняется в мартовском сообщении.

Сегодня компания Microsoft объявила о начале эксперимента по использованию базы данных хэшей StopNCII для удаления интимных изображений из поискового индекса Bing. Используя эту базу данных, Microsoft заявила, что к концу августа были приняты меры в отношении 268 899 изображений.

Развитие искусственного интеллекта также привело к увеличению количества поддельных изображений обнаженной натуры из неинтимных фотографий, выкладываемых в сеть. Несмотря на то, что эти изображения являются подделкой, они могут быть не менее неприятными для тех, кто подвергается эксплуатации.

Отчет компании DeepTrace, ныне Sensity, за 2019 год показал, что 96 % поддельных видео в интернете носят порнографический характер и почти все содержат несанкционированное использование женского образа. Многие из этих изображений загружаются в качестве «порно мести», для вымогательства или для получения прибыли недобросовестными сайтами.

К сожалению, изображения, созданные искусственным интеллектом, сложнее сопоставить с хэшами PhotoDNA. В таких случаях пострадавшие должны вручную сообщить об изображениях в Microsoft, Google и другие онлайн-медиакомпании.

Microsoft говорит, что пострадавшие могут воспользоваться страницей «Сообщить о концерне» и попросить убрать реальные или синтетические изображения из поискового индекса Bing.

Хотя компания Google не присоединилась к этой инициативе, она также предоставляет рекомендации и способ удаления интимных изображений из своего индекса.