Альтман из OpenAI считает, что «суперинтеллект» уже не за горами - но ему не хватает деталей

Эссе Альтмана идет вразрез с интеллектуальной критикой ограничений ИИ и опасениями по поводу экологических и социальных потрясений.

Всего через восемь лет искусственный интеллект (ИИ) может привести к так называемому «сверхразуму», считает генеральный директор OpenAI Сэм Альтман.

«Возможно, мы получим сверхразум через несколько тысяч дней (!); возможно, это займет больше времени, но я уверен, что мы к этому придем», - написал Альтман в эссе под названием The Intelligence Age на сайте, названном его именем. Этот пост, похоже, пока что является единственным содержимым сайта.

В понедельник Альтман разместил ссылку на пост на сайте X (бывший Twitter), который получил 12 000 лайков и 2 400 репостов к полудню вторника:

Альтман использовал термин «суперинтеллект» в интервью, например, в интервью Financial Times год назад. Альтман склонен приравнивать суперинтеллект к широкому стремлению ученых и промышленников достичь «искусственного общего интеллекта» (ИОИ), который представляет собой компьютер, способный рассуждать так же хорошо или лучше, чем человек.

В эссе из 1100 слов Альтман приводит доводы в пользу распространения ИИ среди как можно большего числа людей, как достижения в «инфраструктуре общества», которое сделает возможным резкий скачок в процветании человечества.

«Благодаря этим новым способностям мы сможем добиться всеобщего процветания в такой степени, которая сегодня кажется немыслимой», - пишет Альтман.

В будущем жизнь каждого человека может стать лучше, чем сейчас». Само по себе процветание не обязательно сделает людей счастливыми - есть множество несчастных богатых людей, - но оно значительно улучшит жизнь людей во всем мире».

В эссе Альтмана мало технических деталей и есть несколько огульных утверждений об ИИ:

• ИИ - это кульминация «тысячелетних научных открытий и технологического прогресса», завершившаяся изобретением и дальнейшим совершенствованием компьютерных чипов.
• Формы «глубокого обучения» ИИ, которые сделали возможным генеративный ИИ, работают очень хорошо, несмотря на замечания скептиков.
• Все больше и больше вычислительных мощностей продвигают алгоритмы глубокого обучения, которые продолжают решать проблемы, поэтому «ИИ будет становиться лучше с ростом масштаба».
• Крайне важно продолжать наращивать компьютерную инфраструктуру, чтобы распространить ИИ на как можно большее количество людей.
• ИИ не уничтожит рабочие места, а позволит выполнять новые виды работ и приведет к невиданным ранее достижениям в науке, а также к появлению персональных помощников, таких как персонализированные репетиторы для студентов.

Эссе Альтмана противоречит многим популярным опасениям по поводу этических, социальных и экономических последствий ИИ, которые набирают обороты в последние годы.

Представление о том, что масштабирование вычислений приведет к появлению некоего сверхразума или AGI, противоречит выводам многих исследователей ИИ, таких как, например, критик Гэри Маркус, который утверждает, что AGI или что-то похожее на него уже не за горами, если оно вообще достижимо.

Мнение Альтмана о том, что масштабирование ИИ - это основной путь к лучшему ИИ, является спорным. Известный ученый и предприниматель Йоав Шохам в прошлом месяце заявил в интервью ZDNET, что масштабирования вычислений будет недостаточно для развития ИИ. Вместо этого Шохам высказался за научные исследования за пределами глубокого обучения.

Оптимистичный взгляд Альтмана также не упоминает о многочисленных проблемах предвзятости ИИ, поднимаемых исследователями технологии, равно как и об энергопотреблении центров обработки данных ИИ, которое стремительно растет и, по мнению многих, представляет серьезную экологическую опасность.

Например, эколог Билл Маккиббон писал, что «мы никак не сможем создать возобновляемые источники энергии достаточно быстро, чтобы удовлетворить такой дополнительный спрос» со стороны ИИ, и что «в рациональном мире, столкнувшись с чрезвычайной ситуацией, мы бы пока отложили масштабирование ИИ».

Эссе Альтмана примечательно тем, что оно появилось на фоне недавней критики ИИ. Среди них - книга Маркуса «Укрощение Силиконовой долины», опубликованная в этом месяце издательством MIT Press, и «Змеиное масло ИИ», написанная учеными-компьютерщиками из Принстона Арвиндом Нараянаном и Саяшем Капуром, опубликованная в этом месяце издательством Принстонского университета.

В книге «Укрощение Силиконовой долины» Маркус предупреждает об эпических рисках, связанных с генеративными системами искусственного интеллекта, не ограниченных никаким общественным контролем:

В худшем случае ненадежный и небезопасный ИИ может привести к массовым катастрофам - от хаоса в электросетях до случайных войн или разгула флотилий роботов. Многие могут потерять работу. Бизнес-модели генеративного ИИ игнорируют закон об авторском праве, демократию, безопасность потребителей и влияние на изменение климата. А поскольку он распространился так быстро и без особого надзора, генеративный ИИ фактически превратился в обширный, неконтролируемый эксперимент над всем нашим населением.

Маркус неоднократно упрекает Альтмана в использовании шумихи для утверждения приоритетов OpenAI, особенно в пропаганде скорого прихода AGI. «Одним из мастерских приемов было заявление о том, что совет OpenAI соберется вместе, чтобы определить, когда искусственный интеллект «будет достигнут»», - пишет Маркус о публичных высказываниях Альтмана.

«И мало кто, если вообще кто-либо, спросил Альтмана, почему важный научный вопрос о том, когда будет достигнут AGI, будет «решаться» советом директоров, а не научным сообществом».

В своей книге «AI Snake Oil», которая является язвительным обличением шумихи вокруг ИИ, Нараянан и Капур особо отмечают публичные высказывания Альтмана о регулировании ИИ, обвиняя его в манипуляциях, известных как «захват регулятора», чтобы избежать каких-либо фактических ограничений власти его компании:

Вместо того, чтобы осмысленно устанавливать правила для отрасли, компания [OpenAI] стремится переложить бремя на конкурентов, избегая при этом каких-либо изменений в собственной структуре. Табачные компании пытались сделать нечто подобное, когда в 1950-60-х годах лоббировали меры правительства по борьбе с сигаретами.

Пока неясно, расширит ли Альтман круг своих публичных высказываний через свой сайт или это эссе - одноразовая акция, возможно, предназначенная для противодействия другим скептическим повествованиям.