Couchbase решает проблемы разработки агентского ИИ
Компания Couchbase представила инструменты, призванные упростить разработку безопасных агентных приложений искусственного интеллекта в масштабе.

Несмотря на некоторую неопределенность, инвестиции предприятий в приложения в 2024 году вырастут в восемь раз, причем лидируют расходы на код, создаваемый искусственным интеллектом.
В этом году инвестиции предприятий в искусственный интеллект (ИИ) достигли 14 миллиардов долларов. Однако значительная часть компаний не уверена в том, что они делают с этой технологией, согласно опросу предприятий, проведенному венчурной компанией Menlo Ventures.
«Более трети респондентов нашего опроса не имеют четкого представления о том, как генеративный ИИ будет реализован в их организациях», - пишут авторы отчета, партнеры Menlo Ventures Тим Талли и Джофф Редферн, а также инвестор Дерек Сяо, которые использовали для составления отчета большую языковую модель (LLM) Claude Sonnet 3.5 от Anthropic.
Полный текст отчета «2024: The State of Generative AI in the Enterprise» можно прочитать на сайте Menlo Ventures. Опрос был проведен в сентябре и октябре и основан на ответах 600 руководителей ИТ-подразделений.
Этот отчет - последняя работа Талли, Редферна и Сяо, которые в сентябре также предложили свой взгляд на агентов ИИ.
Авторы считают, что неопределенность вокруг генеративного ИИ (Gen AI) указывает на то, что «мы все еще находимся на ранних стадиях масштабной трансформации».
Действительно, отсутствие ясности в отношении стратегии ИИ - лишь один из элементов весьма позитивной статьи. Если не принимать во внимание расходы на чипы ИИ от Nvidia и других компаний, то расходы на «базовые модели, обучение и развертывание моделей, инфраструктуру данных для ИИ и новые генеративные приложения ИИ» составят 13,8 млрд долларов в 2024 году, считают авторы, что более чем в шесть раз превышает показатель 2023 года (2,3 млрд долларов).
«Этот всплеск расходов отражает волну оптимизма в организациях», - пишут авторы. «72 % лиц, принимающих решения, ожидают более широкого внедрения инструментов генеративного ИИ в ближайшем будущем».
Самой крупной категорией расходов на ИИ в этих компаниях являются базовые модели, LLM, разработанные Anthroptic, OpenAI и другими компаниями, которые выросли с $1 млрд в 2023 году до $6,8 млрд в этом году. Наименьшие расходы пришлись на данные и инфраструктуру - 400 миллионов долларов.
Однако наибольший рост приходится на приложения ИИ, которые выросли в восемь раз - до 4,6 млрд долларов. Эта цифра включает три категории: вертикальный ИИ, ведомственный ИИ и горизонтальный ИИ.
Категория приложений «нагревается», пишут исследователи.
«Хотя инвестиции в базовые модели все еще доминируют в расходах предприятий на генеративный ИИ, уровень приложений теперь растет быстрее, - пишут они, - получая выгоду от объединения моделей проектирования на уровне инфраструктуры. Компании создают значительную ценность, используя эти инструменты для оптимизации рабочих процессов в различных секторах, прокладывая путь для более широких инноваций».
Среди доминирующих сценариев использования - генерация кода с помощью кодовых роботов, включая GitHub Copilot от Microsoft, годовой доход которого в настоящее время достигает 300 миллионов долларов. Далее следуют чат-боты поддержки, затем корпоративный поиск и извлечение информации, а также автоматически генерируемые резюме совещаний.
Menlo имеет прямой финансовый интерес в расходах на ИИ, поскольку компания поддерживает множество стартапов в этой области, включая Anthropic и производителя векторных баз данных Pinecone.
По словам авторов, Anthropic все больше отвоевывает позиции у OpenAI, переходя от GPT к Claude.
«Среди моделей с закрытым исходным кодом преимущество OpenAI на ранней стадии развития несколько уменьшилось, а доля корпоративного рынка снизилась с 50 до 34 %», - пишут авторы. «Главным бенефициаром стала компания Anthropic, которая удвоила свое присутствие на корпоративном рынке с 12 до 24 %, поскольку некоторые предприятия перешли с GPT-4 на Claude 3.5 Sonnet, когда новая модель стала самой современной».
Наиболее перспективная часть отчета посвящена тому, что Талли, Редферн и Сяо называют «современным стеком ИИ» - слоям инфраструктурных технологий, используемых для создания приложений.
Исследователи сообщают, что «предприятия [объединяются] вокруг основных строительных блоков, которые составляют архитектуру времени выполнения большинства производственных систем ИИ».
Этот подход включает в себя базовые модели, сервисы данных, расположенные над ними, такие как Pinecone, фреймворки для разработки программного обеспечения для оркестровки агентов ИИ, такие как LangChain, и, на самом верху, инструменты интеграции, такие как у Composio.
Отчет предлагает три прогноза на год вперед.
Во-первых, ИИ-агенты готовы «разрушить» рынок корпоративного программного обеспечения стоимостью 400 млрд долларов, возглавляемый такими платформами, как Clay и Forge, «решая сложные, многоэтапные задачи, которые выходят за рамки возможностей нынешних систем, ориентированных на генерацию контента и поиск знаний».
Во-вторых, устоявшиеся фирмы, занимающиеся разработкой программного обеспечения, могут быть подорваны так же, как это произошло с продавцом учебников Chegg и фирмой Stack Overflow, занимающейся обсуждением вопросов ИТ. «Фирмам, занимающимся ИТ-аутсорсингом, таким как Cognizant, и игрокам на рынке автоматизации, таким как UiPath, следует быть готовыми к тому, что на их рынок придут претенденты, основанные на искусственном интеллекте. Со временем даже такие гиганты программного обеспечения, как Salesforce и Autodesk, столкнутся с претендентами на AI-native», - пишут Талли, Редферн и Сяо.
В-третьих, по мере распространения систем искусственного интеллекта будет наблюдаться «массовая кадровая засуха», которая столкнется с нехваткой специалистов по анализу данных и экспертов в предметной области. «Приготовьтесь к резкому росту конкуренции и 2-3-кратному увеличению зарплаты для уже хорошо оплачиваемых корпоративных архитекторов, владеющих искусственным интеллектом», - предсказывают исследователи.
Компания Couchbase представила инструменты, призванные упростить разработку безопасных агентных приложений искусственного интеллекта в масштабе.
Компания Swimm, известная своими инструментами для документирования программного обеспечения на основе искусственного интеллекта, объявила о выпуске расширения для GitHub Copilot.
Результаты исследования GitHub показывают, что код, созданный с помощью Copilot, обладает повышенной функциональностью и улучшенной читаемостью, имеет более высокое качество и получает большее количество одобрений, чем код, созданный без него.