Google открывает доступ к 2 миллионам контекстных окон Gemini 1.5 Pro

Компания Google открыла доступ к контекстному окну модели искусственного интеллекта Gemini 1.5 Pro, содержащему 2 миллиона токов. Компания также предоставляет разработчикам доступ к возможностям выполнения кода в API Gemini и делает модель Gemma 2 доступной в Google AI Studio.

Эти объявления были сделаны 27 июня. Контекстное окно Gemini 1.5 Pro с 2 миллионами токов, ранее доступное через список ожидания, теперь доступно для всех разработчиков.

Google отметила, что с ростом контекстного окна увеличивается и потенциальная стоимость ввода. Чтобы помочь разработчикам сократить расходы на выполнение задач, в которых используются одни и те же маркеры в нескольких запросах, Google внедрила кэширование контекста в Gemini API для Gemini 1.5 Pro и Gemini 1.5 Flash.

Чтобы открыть разработчикам возможности математического анализа и анализа данных, Google также включила функцию выполнения кода в Gemini 1.5 Pro и Gemini 1.5 Flash. Функция выполнения кода позволяет модели выполнять код Python и итеративно обучаться на основе результатов, пока не будет достигнут окончательный желаемый результат. Это считается первым шагом вперед в использовании выполнения кода в качестве возможности модели. Она доступна через API Gemini и в Google AI Studio в разделе "Расширенные настройки".

Google также сообщила, что сделала модель Gemma 2 доступной в Google AI Studio для экспериментов и работает над тем, чтобы предложить настройку Gemini 1.5 Flash всем разработчикам. Настройка текста в Gemini 1.5 Flash уже готова к "красной команде" и будет постепенно распространяться среди всех разработчиков. Все разработчики получат доступ к настройке Gemini 1.5 Flash через Gemini API и в Google AI Studio к середине июля, сообщила компания.