Microsoft выпускает расширение Prompty для VSCode

Microsoft выпустила Prompty - инструмент, предназначенный для создания, управления, отладки и оценки подсказок Large Language Models (LLM) для ваших приложений искусственного интеллекта. Идея заключается в том, что разработчики смогут использовать его для интеграции LLM, таких как GPT-4o, непосредственно в приложения .NET.

Prompty бесплатен в Visual Studio Code Marketplace, но не может быть использован с Visual Studio Professional. Это класс активов и формат для подсказок LLM, и, по словам Microsoft, он призван улучшить наблюдаемость, понятность и переносимость для разработчиков. Логотип Prompty жутко напоминает Clippy из Microsoft Office, но пусть вас это не отпугивает.

Prompty состоит из спецификации, инструментария,
и времени выполнения. В спецификации говорится, что Prompty - это класс активов, не зависящий от языка, для создания и управления подсказками. Он использует общий формат markdown и модифицированный front-matter для указания метаданных, настроек модели и данных примеров. Контент предоставляется в стандартном формате шаблона.

Инструментарий включает «автодополнение», подсветку синтаксиса и раскраску. Валидация осуществляется с помощью красных загогулин для неопределенных переменных. Есть опция быстрого запуска, генерация кода и генерация оценок.

Prompty можно использовать для написания подсказок непосредственно в вашей кодовой базе для взаимодействия с LLM. Он поддерживает различные форматы подсказок, а подсветка синтаксиса призвана сделать ваши подсказки удобными для чтения и сопровождения. После того, как вы подготовили подсказку, вы можете использовать расширение для генерации фрагментов кода, создания документации или даже отладки приложений, задавая LLM специфические вопросы.

Время выполнения Prompty - это движок, который понимает и может выполнять формат. Будучи самостоятельным файлом, он не может ничего сделать без помощи расширения (при разработке) или среды выполнения (при запуске). В качестве поддерживаемых сред выполнения он ориентирован на LangChain, Semantic Kernel и Prompt Flow. Он работает на Python (Prompt Flow и LangChain) и на C# (Semantic Kernel). В планах - поддержка TypeScript и JavaScript, а также понимание Azure AI Studio.

Вы можете определять конфигурации моделей непосредственно в VS Code и переключаться между различными конфигурациями моделей. Вы также можете использовать настройки VS Code для определения конфигурации модели на уровне пользователя для использования в разных промтипах, а также на уровне рабочего пространства для обмена с членами команды через Git.

Также поддерживается OpenAI. Вы можете хранить ключ в настройках VSCode или использовать ${env:xxx} для чтения ключа API из переменной окружения.

Prompty уже доступен на GitHub или в VSCode Marketplace.