Хакеры из Китая, России и других стран использовали системы OpenAI

Microsoft и OpenAI заявили, что искусственный интеллект помогал группам, связанным с Китаем, Россией, Северной Кореей и Ираном, в основном выполняя рутинные задания.

Хакеры, работающие на государственные структуры, использовали системы OpenAI при создании своих кибератак, говорится в исследовании, опубликованном в среду компаниями OpenAI и Microsoft.

Компании считают, что их исследование, опубликованное на их сайтах, впервые документирует, как хакеры, связанные с иностранными правительствами, используют генеративный искусственный интеллект в своих атаках.

Но вместо того чтобы использовать искусственный интеллект для создания экзотических атак, как опасались некоторые представители технологической индустрии, хакеры применяют его в рутинных целях, таких как составление электронных писем, перевод документов и отладка компьютерного кода, утверждают компании.

"Они просто используют ее, как и все остальные, чтобы попытаться быть более продуктивными в своих действиях", - сказал Том Берт, который курирует усилия Microsoft по отслеживанию и срыву крупных кибератак.

(The New York Times подала в суд на OpenAI и Microsoft за нарушение авторских прав на новостной контент, связанный с системами искусственного интеллекта).

Microsoft выделила OpenAI 13 миллиардов долларов, и технологический гигант и стартап являются близкими партнерами. Они поделились информацией об угрозах, чтобы задокументировать, как пять хакерских групп, связанных с Китаем, Россией, Северной Кореей и Ираном, использовали технологию OpenAI. Компании не сообщили, какая именно технология OpenAI была использована. Стартап заявил, что закрыл доступ к ним после того, как узнал об использовании.

С тех пор как OpenAI выпустила ChatGPT в ноябре 2022 года, технологические эксперты, пресса и правительственные чиновники беспокоятся, что противники могут использовать более мощные инструменты, ища новые и креативные способы использования уязвимостей. Как и в других случаях с A.I., реальность может быть более преуменьшенной.

"Предоставляет ли она что-то новое, что ускоряет действия противника, помимо того, что может сделать лучшая поисковая система? Я не видел никаких доказательств этого", - сказал Боб Ротстед, возглавляющий отдел анализа угроз кибербезопасности в OpenAI.

По его словам, OpenAI ограничивает места, где клиенты могут регистрировать аккаунты, но изощренные злоумышленники могут избежать обнаружения с помощью различных методов, например, маскировки своего местоположения.

"Они регистрируются так же, как и все остальные", - сказал г-н Ротстед.

Microsoft заявила, что хакерская группа, связанная с Корпусом стражей исламской революции в Иране, использовала системы искусственного интеллекта для поиска способов обхода антивирусных сканеров и создания фишинговых писем. Среди этих писем были "одно, выдававшее себя за письмо от международного агентства по развитию, и другое, пытавшееся заманить видных феминисток на созданный злоумышленниками сайт о феминизме", - говорится в сообщении компании.

В другом случае связанная с Россией группа, пытающаяся повлиять на войну в Украине, использовала системы OpenAI для проведения исследований протоколов спутниковой связи и технологии получения радиолокационных изображений, говорится в сообщении OpenAI.

Microsoft отслеживает более 300 хакерских групп, включая киберпреступников и национальные государства, и собственные системы OpenAI облегчают отслеживание и пресечение их использования, сказали руководители компании. По их словам, несмотря на то, что существуют способы выявить, используют ли хакеры технологии искусственного интеллекта с открытым исходным кодом, распространение открытых систем усложняет задачу.

"Когда работа ведется с открытым исходным кодом, вы не всегда можете знать, кто развертывает эту технологию, как они ее развертывают и какова их политика ответственного и безопасного использования технологии", - сказал г-н Берт.

По его словам, Microsoft не обнаружила никаких случаев использования генеративных ИИ в ходе российского взлома высшего руководства Microsoft, о котором компания сообщила в прошлом месяце.