Amazon обновляет Bedrock с поддержкой пользовательских моделей

Компания Amazon обновила Bedrock, свой инструмент для создания генеративного ИИ на AWS. В обновлении добавлена поддержка импорта пользовательских моделей и оценки моделей, а также поддержка использования моделей Meta Llama 3 и дополнительных моделей от Mistral и Anthropic.

Amazon Bedrock - это полностью управляемый сервис, предлагающий выбор высокопроизводительных базовых моделей (FM). Генеративные приложения ИИ - это приложения, которые могут генерировать текст, изображения, аудио и синтетические данные в ответ на запросы.

Разработчики используют Amazon Bedrock для экспериментов с различными FM-моделями, их частной настройки на основе собственных данных разработчика с помощью таких методов, как тонкая настройка и генерация с расширением поиска (RAG), и создания управляемых агентов, выполняющих сложные бизнес-задачи. Инструмент предназначен для использования без написания кода.

Первое улучшение в обновленной версии - возможность импорта пользовательских FM. Некоторые модели, поддерживаемые Bedrock, предоставляют общедоступные веса, которые можно тонко настраивать и кастомизировать. Теперь Bedrock позволяет разработчикам импортировать пользовательские веса для таких моделей и обслуживать пользовательскую модель в режиме On-Demand. Эта функция предварительного просмотра означает, что разработчики могут использовать Amazon Bedrock с существующими настраиваемыми моделями, такими как Code Llama, версия Llama 2, специализирующаяся на коде, которая была создана путем дополнительного обучения Llama 2 на наборах данных, специфичных для кода, или использовать свои данные для тонкой настройки моделей и импортировать полученную модель в Amazon Bedrock.

Второе улучшение добавляет поддержку оценки моделей, предоставляя пользователям средства для оценки, сравнения и выбора лучших FM для конкретного использования на основе автоматической или человеческой оценки. Автоматическая оценка основана на предопределенных метриках, таких как точность, надежность и токсичность. Субъективные или пользовательские метрики, такие как дружелюбие, стиль и соответствие бренду, могут быть оценены с помощью рабочих процессов человеческой оценки.

Еще одно дополнение, Guardrails для Amazon Bedrock, обеспечивает защиту при разработке приложений генеративного ИИ. Теперь Bedrock позволяет устанавливать правила для обеспечения соответствия приложений политике ответственного ИИ в вашей организации.

В обновленном выпуске также появилась поддержка дополнительных моделей от Mistral AI, включая Mistral Large, и модели Meta Llama 3.

Amazon Bedrock доступен уже сейчас.