Google обновляет инструментарий ответственного ИИ

Компания Google объявила об обновлении инструментария Responsible Generative AI Toolkit, позволяющего использовать его с любой моделью LLM. Responsible GenAI Toolkit предоставляет ресурсы для проектирования, создания и оценки открытых моделей ИИ, и теперь он может работать с любой моделью LLM, будь то Gemma, Gemini или любая другая модель.

Инструментарий содержит руководство и основные инструменты для создания безопасных приложений ИИ, первоначально на основе Gemma, а теперь и в более широком смысле. В нем есть ресурсы для применения лучших практик ответственного использования открытых моделей, включая руководство по определению политики безопасности, настройке безопасности, классификаторам безопасности и оценке моделей. Также есть инструмент Learning Interpretability Tool (LIT), который можно использовать для изучения поведения LLM и решения любых потенциальных проблем.

В обновленной версии появился новый инструмент SynthID Text, который можно использовать для нанесения водяных знаков и обнаружения контента, созданного искусственным интеллектом. Мысль заключается в том, что все труднее определить, был ли текст написан человеком или сгенерирован искусственным интеллектом, поэтому SynthID Text можно использовать для водяных знаков и обнаружения текста, сгенерированного вашим продуктом GenAI. SynthID наносит водяные знаки и идентифицирует контент, созданный искусственным интеллектом, путем встраивания цифровых водяных знаков непосредственно в текст, созданный искусственным интеллектом. Это открытый исходный код для разработчиков, и SynthID для текста доступен всем разработчикам через Hugging Face и Responsible GenAI Toolkit.

В новой версии также появился инструмент, позволяющий уточнить ваши подсказки с помощью LLM. Для этого используется библиотека Model Alignment, которая помогает уточнять подсказки при поддержке LLM. Model Alignment - это библиотека Python от команды PAIR, которая позволяет пользователям создавать модельные подсказки на основе отзывов пользователей вместо ручного написания и редактирования подсказок. Техника использует конституционные принципы для приведения подсказок в соответствие с желаемыми значениями пользователей. Библиотека PyPI поставляется с двумя различными API, один из которых работает с подсказками для одиночного запуска, а второй использует помеченные обучающие данные для автоматического создания подсказки на основе принципов, полученных из этих данных.

Еще одно усовершенствование улучшает отладку подсказок, делая ее проще и быстрее, благодаря улучшенному опыту развертывания инструмента Learning Interpretability Tool (LIT) в Google Cloud. Теперь разработчики могут использовать новый контейнер сервера моделей LIT для развертывания любого Hugging Face или Keras LLM с поддержкой генерации, токенизации и salience scoring на графических процессорах Cloud Run.

Обновленная версия инструментария доступна уже сейчас.