ИИ нуждается в присмотре взрослых

Независимо от того, копировала ли компания OpenAI голос Скарлетт Йоханссон для создания персонажа ChatGPT "Sky", довольно показательно, что люди не считают, что генеральный директор OpenAI Сэм Альтман способен на такое присвоение. Несмотря на перспективность ИИ, мы продолжаем видеть примеры его беспредела, как, например, в случае с попытками Google запустить ИИ в результаты поиска (в некоторых случаях с очень плохими последствиями). Говоря об инциденте с Йоханссон, Чарли Уорзел пишет в The Atlantic, что это, похоже, "еще один пример того, как технологическая компания пропустила мимо ушей этические проблемы и действует безнаказанно".

Однако, как продолжает Уорзел, это не просто дело OpenAI, а скорее "напоминание о философии Manifest Destiny ИИ: Это происходит, нравится вам это или нет". И давайте проясним: иногда нам это очень, очень не нравится.

Не очень утешительно, не так ли? Именно поэтому я доказывал необходимость более открытого исходного кода в ИИ, чтобы поставщики были честными. Именно поэтому нам, вероятно, нужно больше Microsoft и меньше OpenAI, чтобы помочь ИИ работать в более взрослой манере и укреплять доверие корпораций и частных лиц.

Доверие оплачивается

Я действительно не могу поверить, что только что сказал это. В конце концов, я провел более десяти лет в ярости против машины Microsoft, даже когда она вела войну с открытым исходным кодом. Но это было тогда, а это сейчас. Несмотря на раннюю борьбу Microsoft с Linux и открытым исходным кодом, компания уже много лет является активным и надежным участником различных сообществ разработчиков открытого исходного кода.

Это доверие очень важно, потому что доверие - это именно то, чего не хватает в ИИ.

Какими бы ни были проблемы Microsoft с открытым исходным кодом и Министерством юстиции США в прошлом, она остается, пожалуй, самой надежной компанией в сфере технологий. Предприятия, похоже, готовы платить за это доверие. Согласно опросу ИТ-директоров, проведенному компанией Piper Sandler в 2023 году, Microsoft больше всех выиграет от роста расходов на генеративный ИИ. 49 % опрошенных заявили, что Microsoft является для них наиболее стратегическим поставщиком ИИ, значительно опередив OpenAI (17 %). Это доверие к Microsoft остается неизменным на протяжении многих лет. Например, еще в 2013 году Microsoft считалась поставщиком облачных вычислений для ИТ-директоров. Конечно, сегодня AWS является облачным поставщиком с капиталом в 100 миллиардов долларов, а Microsoft - нет, что может означать, что OpenAI, как и AWS до него, в конечном итоге займет основную часть расходов на программное обеспечение для ИИ, так же как AWS в течение многих лет занималась облачными технологиями.

Но облачные технологии, как и искусственный интеллект, - игра долгая, и у Microsoft в облачных технологиях все хорошо. Согласно последним данным о доходах компании, ее облачный бизнес в этом квартале превысил 35 миллиардов долларов. Это не сравнить со 100-миллиардным оборотом AWS, но аналитики в настоящее время оценивают долю AWS на рынке в 31 %, а Microsoft Azure - в 25 %. Это впечатляет, учитывая, что в первые годы AWS занимала около 100 % рынка и удерживала лидерство в течение многих лет. Теперь этого нет. Во многом это связано с доверием ИТ-директоров к Microsoft, а также с агрессивным маневрированием Microsoft в области искусственного интеллекта.

Играйте на свой страх и риск

Беспокоясь о том, что она сильно отстает от Google в области технологий ИИ, Microsoft вложила 1 миллиард долларов в OpenAI еще в 2019 году. В 2023 году компания удвоила инвестиции в OpenAI, доведя их до 13 миллиардов долларов. Такое тесное сотрудничество с OpenAI сделало облачный сервис Microsoft Azure еще более интересным для компаний, желающих использовать ИИ. В течение всего этого времени Microsoft в основном держалась на расстоянии от OpenAI, хотя и пользовалась технологиями OpenAI, как, например, выпуском GPT-4o от OpenAI на Azure ранее в мае 2024 года.

Это хорошо для Microsoft, но для индустрии ИИ нам нужно больше Microsoft и меньше OpenAI.

На протяжении многих лет OpenAI представляла собой бурлящий клубок конфликтов и проблем: совет директоров был взбудоражен из-за опасений, что Альтман отказался от основополагающего принципа компании - безопасность ИИ превыше прибыли, высокопоставленные сотрудники увольнялись из-за опасений, что компания ставит доходы выше безопасности, и многое другое. По мнению Уорзела, все это можно рассматривать как стандартную ситуацию в Кремниевой долине: Утопические мечты разбиваются о сиюминутные заботы о влиянии на общество.

Но ИИ, несмотря на фанеру "машины правят нами", в конечном итоге связан с людьми, о чем я недавно писал. Люди могут остановить или, по крайней мере, серьезно замедлить проникновение ИИ в нашу жизнь, если будет считаться, что движущая сила изменений ИИ не обращает внимания на проблемы людей. Если бы Microsoft заняла место водителя, это сняло бы многие из этих опасений. В конце концов, Microsoft - это та же самая компания, которая в значительной степени укротила беспорядок, который был корпоративной культурой GitHub, не прибегая к настолько тяжелой руке, что разработчики отказались от этого инструмента для совместной работы над кодом. GitHub был популярен и до прихода Microsoft, но руководство Microsoft помогло закрепить место GitHub в корпоративной среде.

То же самое может произойти и с ИИ. Как подчеркивает вице-президент Forrester Брэндон Перселл, "непрозрачность ИИ создала значительный пробел в доверии, который может полностью преодолеть только прозрачность". Частично это связано с открытием кода (включая веса моделей и т. д.), чтобы предприятия могли в большей степени доверять результатам работы больших языковых моделей, но также это связано с доверием к компаниям, которые стоят за этими LLM. Microsoft хороша в открытом коде и хороша в укреплении корпоративного доверия. ИИ нуждается во взрослом контроле, и Microsoft может идеально подойти на эту роль.