Еще больше драмы OpenAI: Исполнительный директор увольняется из-за опасений по поводу того, что прибыль важнее безопасности

Уходящий руководитель OpenAI, занимающийся вопросами безопасности, с порога высказывает опасения по поводу компании.

Ян Лейке (Jan Leike), который на этой неделе ушел со своего поста руководителя "суперсогласованной" команды компании, сообщил в пятницу в теме X, что он не согласен с "основными приоритетами" руководства OpenAI и "достиг точки перелома".

"Выравнивание" или "супервыравнивание" - термины, используемые в сфере искусственного интеллекта для обозначения работы по обучению систем ИИ действовать в рамках человеческих потребностей и приоритетов. Лейке присоединился к OpenAI в 2021 году, а прошлым летом компания объявила, что он станет одним из руководителей группы супервыравнивания, которая будет заниматься "научно-техническими прорывами в области управления и контроля над системами ИИ, которые намного умнее нас".

Однако в пятницу Лейк заявил, что в последние месяцы команда испытывает нехватку ресурсов и "плывет против ветра".

"Иногда нам не хватало вычислительных мощностей, и нам становилось все труднее и труднее проводить эти важнейшие исследования", - сказал он на сайте X, добавив, что четверг стал его последним днем в стартапе. "Создание более умных, чем человек, машин по своей сути опасно... Но в последние годы культура безопасности и процессы отошли на второй план, уступив место блестящим продуктам".

Генеральный директор OpenAI Сэм Альтман ответил на сообщение Лейка, заявив, что компания привержена безопасности ИИ.

"(Я) очень ценю вклад @janleike в исследования по выравниванию и культуру безопасности OpenAI и очень огорчен его уходом", - сказал Альтман на сайте X. "Он прав, нам еще многое предстоит сделать, и мы намерены это сделать. (В ближайшие пару дней я напишу более подробный пост".

Уход Лейка, о котором он объявил в среду, произошел на фоне более масштабных перестановок в руководстве OpenAI. Его отставка последовала за объявлением во вторник сооснователя и главного ученого OpenAI Ильи Суцкевера, который также помогал возглавить команду по супервыравниванию, о том, что он покидает компанию.

Суцкевер сказал, что уходит, чтобы работать над "проектом, который очень важен для меня лично". Но его уход стал заметным, учитывая ту центральную роль, которую он сыграл в драматическом увольнении - и возвращении - Альтмана в прошлом году, когда он проголосовал за лишение Альтмана поста генерального директора и председателя совета директоров.

Корреспондент CNN Кара Свишер ранее сообщала, что Суцкевер был обеспокоен тем, что Альтман продвигает технологию искусственного интеллекта "слишком далеко и слишком быстро". Но через несколько дней после отстранения Альтмана Суцкевер изменил свое мнение: Он подписал письмо сотрудников, в котором призвал весь совет директоров уйти в отставку и вернуть Альтмана.

Тем не менее, вопросы о том, как - и как быстро - разрабатывать и публично выпускать технологию искусственного интеллекта, возможно, продолжали вызывать напряжение внутри компании в течение нескольких месяцев после того, как Альтман вернул себе контроль над фирмой. Уход руководителей произошел после того, как OpenAI объявила на этой неделе, что сделает свою самую мощную модель ИИ, GPT-4o, доступной бесплатно для общественности через ChatGPT. Технология сделает ChatGPT более похожим на цифрового персонального помощника, способного вести разговор в режиме реального времени.

"Я считаю, что гораздо больше наших ресурсов должно быть потрачено на подготовку к следующим поколениям моделей, на безопасность, мониторинг, готовность, безопасность, устойчивость к противникам, (супер)выравнивание, конфиденциальность, влияние на общество и смежные темы", - написал Лейк в своей теме X в пятницу. "Эти проблемы довольно сложно решить, и я обеспокоен тем, что мы не находимся на траектории их решения".

После ухода Суцкевера и Лейке компания OpenAI подтвердила CNN, что в последние недели она начала распускать свою команду по суперсогласованию, а вместо этого интегрировала ее членов в различные исследовательские группы. Представитель компании заявил, что такая структура поможет OpenAI лучше достичь своих целей в области суперсогласования.

Саманта Делуя из CNN внесла свой вклад в подготовку этого репортажа.