Доступная в формате открытого исходного кода, новейшая модель LLM от Mistral появилась на фоне новых моделей, выпущенных OpenAI и Google.
Французский ИИ-стартап Mistral во вторник выпустил Mixtral 8x22B, новую большую языковую модель (LLM) и свою последнюю попытку конкурировать с большими мальчиками на арене ИИ. Ожидается, что Mixtral 8x22B превзойдет предыдущую модель Mixtral 8x7B LLM, которая, по данным Gigazine, превзошла GPT-3.5 от OpenAI и Llama 2 от Meta.
Новая модель Mixtral может похвастаться контекстным окном на 65 000 текстов, что означает объем текста, который модель ИИ может обрабатывать и использовать одновременно. Кроме того, Mixtral 8x22B имеет размер параметров до 176 миллиардов, что означает количество внутренних переменных, которые модель использует для принятия решений или прогнозов.
Основанная исследователями из Google и Meta, компания Mistral использует подход с открытым исходным кодом для своих моделей искусственного интеллекта. В данном случае Mixtral 8x22B доступна для использования всем желающим после загрузки файла размером 281 ГБ. Чтобы сделать это самостоятельно, просто вставьте magnet-ссылку из поста X Mistral AI в ваш любимый BitTorrent-клиент.
Выпуск новейшего LLM от Mistral пришелся на время, когда в индустрии ИИ активно появляются новые и инновационные модели.
Во вторник OpenAI выпустила GPT-4 Turbo with Vision, новейшую модель GPT-4 Turbo с возможностями зрения для работы с фотографиями, рисунками и другими изображениями, загруженными пользователем. В тот же день Google выпустила для разработчиков свою усовершенствованную модель Gemini Pro 1.5 LLM с бесплатной опцией, которая позволяет выполнять до 50 запросов в день. Не отстает и компания Meta, сообщившая, что ее модель Llama 3 дебютирует в конце этого месяца.
Mixtral 8x22B и другие продвинутые LLM известны как пограничные модели, которые могут выполнять широкий спектр задач и запросов. Напоминая Дикий Запад, они стремятся превзойти предыдущие модели с более новаторскими технологиями. Термин "пограничный" также вызывает чувство опасности. В июле 2023 года OpenAI описала риски пограничных моделей в своем блоге.
"Граничные модели искусственного интеллекта создают особые проблемы в области регулирования: опасные возможности могут возникнуть неожиданно; трудно надежно предотвратить неправомерное использование развернутой модели; и трудно предотвратить широкое распространение возможностей модели", - пишет OpenAI. "Саморегулирование отрасли - важный первый шаг. Однако для создания стандартов и обеспечения их соблюдения потребуются более широкие общественные дискуссии и вмешательство государства".
Подход Mistral с открытым исходным кодом также вызвал критику, сообщает The Guardian. Позволяя всем желающим скачивать и создавать свои модели ИИ, стартап не может предотвратить использование своих систем во вредных целях. Кроме того, модели нельзя отключить от сети, если обнаружатся определенные недостатки или предубеждения, которые необходимо устранить.