Илья Суцкевер собрал 1 миллиард долларов на исследование безопасного искусственного интеллекта

Компания Safe Superintelligence, основанная Ильей Суцкевером после его ухода из Open AI, привлекла 1 миллиард долларов наличными, несмотря на то, что не собирается выпускать никаких продуктов в течение как минимум 2 лет.

Компания Safe Superintelligence (SSI) была основана в июне 2024 года Ильей Суцкевером вместе с Даниэлем Леви (слева), еще одним бывшим исследователем Open AI, и Даниэлем Гроссом (справа), который, будучи одним из самых молодых основателей, когда-либо принятых в программу акселератора Y Combinator, работал там партнером и возглавил работу над искусственным интеллектом в Apple. SSI ставит перед собой очень конкретную цель, выраженную в названии компании, - создание «безопасного суперинтеллекта» с помощью «революционных инженерных и научных прорывов», не отвлекаясь на «управленческие накладные расходы и циклы производства».

Если какая-либо команда и сможет добиться этого, то участие Суцкевера, вероятно, станет ключевым фактором, поскольку он уже заслужил признание за то, что находится на переднем крае всех аспектов развития ИИ за последнее десятилетие.

Суцкевер родился в России в 1987 году, но в возрасте 5 лет переехал в Израиль, где с 2000 по 2002 год учился в Открытом университете Израиля. После этого он вместе с семьей переехал в Канаду и поступил в Университет Торонто, где в 2005 году получил степень бакалавра математики, в 2007 году - степень магистра компьютерных наук, а в 2013 году - степень доктора философии в области компьютерных наук. Его научным руководителем в докторантуре был Джеффри Хинтон, а областью исследования - конволюционные нейронные сети. В 2012 году Суцкевер вместе с Алексом Крижевским и Хинтоном создал AlexNet, которая победила в конкурсе ImageNet Large-Scale Visual Recognition Challenge (ILSVRC). Это соревнование является эталоном в области распознавания и классификации объектов, и победа AlexNet стала значительным прорывом не только для компьютерного зрения, но и первой убедительной демонстрацией того, что нейронные сети действительно работают, если у вас достаточно данных и вычислительной мощности.

Проведя пару месяцев в качестве постдока у Эндрю Нг в Стэнфордском университете, Суцкевер вернулся в Тотонто, чтобы присоединиться к DNNResearch, компании, основанной Хинтоном, которая в следующем году была куплена Google. В Google Brain Суцкевер вместе с Ориолом Виньялсом и Куок Вьетом Ле создал алгоритм обучения «последовательность-последовательность», работал над TensorFlow и был одним из группы исследователей, работавших над AlphaGo.

В конце 2015 года он покинул Google, чтобы стать главным научным сотрудником OpenAI, и считался одним из ее сооснователей наряду с Сэмом Альтманом, Грегом Брокманом и Элоном Маском. С самого начала OpenAI была некоммерческой организацией, и из-за ее названия многие, в том числе и IProgrammer, предположили, что это организация с открытым исходным кодом, о чем мы сообщали в нашем репортаже, который включал ее объявление:

«Наша цель - развивать цифровой интеллект таким образом, который с наибольшей вероятностью принесет пользу всему человечеству, не ограничиваясь необходимостью получения финансовой прибыли».

OpenAI стала коммерческой компанией в 2019 году, к тому времени она разработала ChatGPT1, первую в своей линейке большую языковую модель, которая использовала архитектуру трансформатора, представленную исследователями из Google Brain в работе «Attention Is All You Need», в сочетании с предварительным обучением на массивных наборах данных. К 2020 году мы сообщали о «Необоснованной эффективности GPT-3», успехе, который во многом был заслугой Суцкевера. После того как ChatGPT стал доступен для всех желающих, он стал самым быстрорастущим приложением для ПК всех времен, но одновременно с ростом популярности он вызвал недоумение среди светил ИИ.

Открытое письмо с просьбой приостановить гигантские эксперименты с ИИ:

Мы призываем все лаборатории ИИ немедленно приостановить как минимум на 6 месяцев обучение систем ИИ, более мощных, чем
GPT-4.

В апреле 2023 года петицию подписали Йошуа Бенгио, Стюарт Рассел, Элон Маск, Стив Возняк, и с тех пор она собрала более 33 700 дополнительных подписей. В следующем месяце Джеффри Хинтон покинул Google, чтобы иметь возможность выразить свои опасения по поводу потенциальной экзистенциальной угрозы, исходящей от ИИ. Затем в ноябре 2023 года Суцкевер был в числе членов совета директоров OpenAI, которые проголосовали за отстранение Сэма Альтмана от должности генерального директора. После протестов сотрудников Open AI Альтман был восстановлен в должности, а Суцкевер выразил личное сожаление в твите. Хотя источник недовольства Альтманом не был обнародован, именно в этот момент была создана команда Superalignment, возглавляемая Суцкевером и Яном Лейде, в задачи которой входило противодействие угрозе развития вредоносного суперинтеллекта. Суцкевер и Лейде уволились из OpenAI в один и тот же день в мае 2024 года, причем Лейде жаловался, что команда «плыла против ветра» и не получала достаточно ресурсов для выполнения своей работы. После их ухода Open AI быстро свернула свою деятельность.

Именно на фоне глубокого беспокойства по поводу несанкционированного ИИ была создана компания Safe Superintelligence, которая заявила о своем намерении тщательно исследовать любой продукт перед его запуском, что означает, что могут пройти годы, прежде чем инвесторы, включая Andreessen Horowitz и Sequoia Capital, увидят какую-либо отдачу. Таким образом, хотя сумма финансирования меркнет по сравнению с другими инвестициями в ИИ-компании, ее следует рассматривать как еще один успех Суцкевера. Новое финансирование в размере 1 миллиарда долларов будет использовано для привлечения лучших специалистов в области ИИ в офисы компании в Пало-Альто, Калифорния, и Тель-Авиве, Израиль.

Тот факт, что Open AI отказалась от своего проекта Superalignment, действительно выглядит как намерение заработать деньги для своих инвесторов.