Microsoft представила унифицированный .NET API для искусственного интеллекта

Компания Microsoft представила новые библиотеки для интеграции служб искусственного интеллекта в приложения и библиотеки .NET, а также промежуточное ПО для добавления ключевых возможностей.

Библиотеки являются последним дополнением Microsoft для разработчиков, желающих включить сервисы искусственного интеллекта в свои приложения, наряду с такими недавними дополнениями, как библиотека OpenAI для .NET и набор инструментов AI Toolkit для Visual Studio Code.

Две новые библиотеки - Microsoft.Extensions.AI.Abstractions и Microsoft.Extensions.AI libraries. Microsoft.Extensions.AI описывается как набор основных библиотек .NET, созданных в сотрудничестве с разработчиками всей экосистемы .NET, включая Semantic Kernel. Библиотеки предоставляют единый уровень абстракций C# для взаимодействия с сервисами ИИ, такими как малые и большие языковые модели (SLM и LLM), вкрапления и промежуточное ПО.

Microsoft заявляет, что не планирует выпускать API, предназначенные для сервисов какого-либо конкретного поставщика. Цель - создать абстракции, которые могут быть реализованы различными сервисами, придерживающимися одних и тех же основных концепций. Рассказывая о новых библиотеках в блоге .NET, Луис Кинтанилла, руководитель программы Microsoft, работающий над машинным обучением для .NET, сказал:

«Наша цель - выступить в качестве объединяющего слоя в экосистеме .NET, позволяя разработчикам выбирать предпочтительные фреймворки и библиотеки, обеспечивая при этом бесшовную интеграцию и сотрудничество в рамках всей экосистемы».

Microsoft.Extensions.AI предлагает унифицированную абстракцию API для служб искусственного интеллекта, аналогичную существующим абстракциям Microsoft для протоколирования и инъекции зависимостей (DI). Цель состоит в том, чтобы предоставить стандартные реализации для кэширования, телеметрии, вызова инструментов и других общих задач, которые работают с любым провайдером.

По словам Microsoft, общие абстракции для сервисов ИИ позволяют легко использовать идиоматический код на C# для различных сценариев с минимальными изменениями кода, а специфические API остаются доступными при необходимости, позволяя потребителям писать код на основе стандартных абстракций и переходить к собственным API только в случае необходимости.

Текущая предварительная версия поставляется с эталонными реализациями для OpenAI, Azure AI Inference и Ollama, но Microsoft намерена работать с другими авторами пакетов, чтобы реализации этих абстракций Microsoft.Extensions.AI в конечном итоге стали частью соответствующих клиентских библиотек, а не требовали установки дополнительных пакетов.

Библиотеки Microsoft.Extensions.AI.Abstractions и Microsoft.Extensions.AI уже доступны в предварительной версии.