IBM обновляет модели Granite

Компания IBM выпустила новые модели Granite, которые, по ее словам, обеспечивают самую современную производительность относительно размера модели. Коллекция Granite 3.0 включает в себя новый плотный декодер LLM, настроенный только на инструкции.

Серия Granite - это набор моделей генеративного ИИ, которые применяют генеративный ИИ к модальностям языка и кода. Модели имеют различные размеры и построены на архитектуре, основанной только на декодере. Они обучаются на доменах, имеющих отношение к бизнесу, включая финансовые, юридические, IT, кодовые и академические домены. Модели этого типа предназначены для использования в поисковом расширенном генерировании (RAG) для поиска в базах знаний с целью генерирования индивидуальных ответов на запросы клиентов или для сжатия контента в короткие описания.

IBM утверждает, что новая инструкция Granite 3.0 8B была обучена с помощью нового двухфазного метода на более чем 12 триллионах лексем тщательно проверенных данных на 12 различных естественных языках и 116 различных языках программирования. IBM утверждает, что тонкая настройка небольших, подходящих для конкретных целей моделей, таких как Granite, дает предприятиям возможность получить передовую производительность модели при меньших затратах. Ключевым моментом в этом является возможность адаптировать модели Granite к потребностям организации с помощью InstructLab.

InstructLab - это проект ИИ, разработанный IBM и Red Hat, который может быть использован разработчиками для улучшения больших языковых моделей (LLM) для конкретных бизнес-потребностей. Он имеет открытый исходный код и предоставляет систематически генерируемые синтетические данные и протоколы поэтапного обучения.

Все модели Granite выпускаются под разрешительной лицензией Apache 2.0, а в техническом документе Granite 3.0 IBM подробно описывает наборы обучающих данных и методологии.

В этом выпуске IBM также сделала акцент на безопасности модели, заявив. Granite 3.0 8B Instruct демонстрирует лучшую в отрасли устойчивость в бенчмарке AttaQ, который измеряет уязвимость LLM к враждебным подсказкам, призванным спровоцировать модели на генерацию вредных, неуместных или иным образом нежелательных подсказок.

Обновленная коллекция Granite, включая рецепты и руководства по использованию, доступна на Github, а разработчики также могут поэкспериментировать с новой моделью Granite 3.0 8B Instruct на IBM Granite Playground.

Модели Granite 3.0 уже доступны на сайте IBM watsonx.ai через таких партнеров платформы, как Google Vertex AI (через интеграцию Google Cloud's Vertex AI Model Garden с Hugging Face), Hugging Face, NVIDIA (как микросервисы NIM), Ollama и Replicate.