Джеффри Хинтон и экзистенциальная угроза со стороны искусственного интеллекта

Как лауреат Нобелевской премии по физике 2024 года Джеффри Хинтон неоднократно попадал на интервью. Он использовал эту возможность, чтобы еще раз объяснить, почему он считает искусственный интеллект экзистенциальной угрозой для человечества.

Как мы уже сообщали пять дней назад, Джеффри Хинтон был удостоен Нобелевской премии по физике. Возможно, ирония заключается в том, что в то время как его превозносят за вклад в машинное обучение и нейронные сети, он стремится привлечь наше внимание к рискам, которые представляют собой такие системы. Его опасения по поводу того, что в результате его работы может появиться искусственный интеллект, превосходящий человеческий, заставили его покинуть пост вице-президента Google, чтобы иметь возможность более свободно говорить об опасностях, которые он видит. В то время он взял интервью у Уилла Дугласа Хейвена в рамках цифровой конференции MIT EmTech, см. раздел «Хинтон объясняет свой новый страх перед искусственным интеллектом».

Теперь, когда он стал лауреатом Нобелевской премии, у Хинтона появилась новая возможность рассказать о своих опасениях по поводу технологии, в создании которой он сыграл ключевую роль.

Первое интервью состоялось в три часа ночи, всего через час после звонка из комитета по присуждению Нобелевской премии, который, как он сначала подозревал, мог быть подделкой - если бы не сильный шведский акцент, - поскольку он даже не знал, что номинирован. Но, зная о первых интервью, проводимых для сайта Нобелевской премии, он был готов ответить на вопросы Адама Смита, в том числе:

«Как бы вы описали себя? Вы бы сказали, что вы компьютерный ученый или физик, пытающийся понять биологию, когда вы делали эту работу?».

Хинтон ответил следующее:

«Я бы сказал, что я человек, который не знает, в какой области он работает, но хотел бы понять, как работает мозг. И в своих попытках понять, как работает мозг, я помог создать технологию, которая работает на удивление хорошо».

Затем Адам Смит ссылается на «очень публично выраженные опасения Хинтона по поводу того, что может принести эта технология», и спрашивает, что можно сделать, чтобы развеять их.

Хинтон отвечает следующее:

«Я хотел бы иметь некий простой рецепт, что если вы сделаете вот так, то все будет хорошо. Но у меня его нет. В частности, что касается экзистенциальной угрозы того, что эти вещи выйдут из-под контроля и захватят власть, я думаю, что мы находимся в своеобразной точке бифуркации в истории, когда в ближайшие несколько лет нам нужно понять, есть ли способ справиться с этой угрозой. Я думаю, что сейчас очень важно, чтобы люди работали над вопросом, как мы будем сохранять контроль? Нам нужно приложить много исследовательских усилий. Я думаю, что одна вещь, которую могут сделать правительства, - это заставить крупные компании тратить гораздо больше своих ресурсов на исследования в области безопасности. Чтобы, например, такие компании, как OpenAI, не могли просто отложить исследования безопасности на второй план».

Отвечая на вопрос о том, как Нобелевская премия повлияет на решение проблемы рисков, связанных с большими языковыми моделями, Хинтон сказал:

Да, я думаю, это изменит ситуацию. Надеюсь, это сделает меня более убедительным, когда я говорю, что эти вещи действительно понимают, что говорят».

Хинтон более подробно рассказывает о своих опасениях, что машины могут превзойти человека, в интервью с Фейсалом Исламом для BBC Newsnight.

В начале интервью Хинтон говорит, что рад тому, что мир начинает всерьез воспринимать угрозу того, что «эти штуки», имея в виду большие языковые модели, такие как ChatGPT от OpenAI, станут умнее нас и захотят отобрать у нас контроль. На вопрос о том, что послужило причиной такого беспокойства, он ответил, что это связано с двумя вещами. Во-первых, его собственный опыт «игры» с большими чат-ботами, как с Bard от Google, так и с ChatGPT, показал, что они многое понимают.

«У них гораздо больше знаний, чем у любого человека, - они как не очень хороший эксперт более или менее во всем».

Второй момент - понимание того, что они являются высшей формой интеллекта:

«потому что вы можете создать множество копий одной и той же нейронной сети, каждая из которых может просматривать разные данные, а затем все они могут делиться тем, что узнали».

Хинтон просит нас представить, что у нас есть знания о 10 000 степеней, которыми можно эффективно обмениваться. Беспокойство вызывает тот факт, что с таким превосходным знанием ИИ может захотеть взять управление в свои руки.

Хинтон подводит итог в конце интервью:

Я думаю, что через пять - 20 лет вероятность того, что придется столкнуться с проблемой попытки захвата власти, будет примерно равна половине.

Тем временем около полудня Хинтон дал пресс-конференцию в Университете Торонто, где он является почетным профессором компьютерных наук и где он выполнил работу, отмеченную Нобелевской премией по физике.