Компания Hugging Face сотрудничает с NVIDIA для демократизации ИИ-выводов

Компания Hugging Face объединила усилия с NVIDIA, чтобы предоставить возможности анализа как услуги одному из крупнейших в мире сообществ ИИ. Это сотрудничество, о котором было объявлено на конференции SIGGRAPH, предоставит четырем миллионам разработчиков Hugging Face упрощенный доступ к ускоренным NVIDIA вычислениям на популярных моделях ИИ.

Новый сервис позволяет разработчикам быстро развернуть ведущие большие языковые модели, включая семейство Llama 3 и модели ИИ Mistral, с оптимизацией от микросервисов NVIDIA NIM, работающих на NVIDIA DGX Cloud. Эта интеграция призвана упростить процесс создания прототипов для моделей ИИ с открытым исходным кодом, размещенных на Hugging Face Hub, и их развертывания в производственных средах.

Для пользователей Enterprise Hub предлагается бессерверная обработка выводов, обеспечивающая повышенную гибкость, минимальную нагрузку на инфраструктуру и оптимизированную производительность благодаря NVIDIA NIM. Этот сервис дополняет существующий сервис обучения ИИ Train on DGX Cloud, доступный на Hugging Face, создавая комплексную экосистему для разработки и развертывания ИИ.

Новые инструменты призваны решить проблемы, с которыми сталкиваются разработчики, ориентируясь на растущий ландшафт моделей с открытым исходным кодом.

Предоставляя централизованный центр для сравнения и экспериментов с моделями, Hugging Face и NVIDIA снижают барьеры для разработки передового ИИ. Доступность - ключевой момент, новые функции доступны через простые выпадающие меню "Train" и "Deploy" на карточках моделей Hugging Face, что позволяет пользователям начать работу с минимальными трудностями.

Сердцем этого предложения является NVIDIA NIM - набор микросервисов ИИ, включающий как модели фонда NVIDIA AI, так и модели сообщества с открытым исходным кодом. Эти микросервисы оптимизированы для выводов с использованием стандартных API, обеспечивая значительное повышение эффективности обработки токенов - критического фактора производительности языковой модели.

Преимущества NIM выходят за рамки простой оптимизации. При использовании NIM такие модели, как версия Llama 3 с 70 миллиардами параметров, могут достигать в 5 раз большей пропускной способности по сравнению с развертыванием на готовых системах на базе NVIDIA H100 Tensor Core GPU. Этот прирост производительности означает более быстрые и надежные результаты для разработчиков, что потенциально ускоряет цикл разработки приложений ИИ.

В основе этого сервиса лежит NVIDIA DGX Cloud - платформа, специально созданная для генеративного ИИ. Она предлагает разработчикам масштабируемые ресурсы GPU, которые поддерживают все этапы разработки ИИ, от прототипа до производства, без необходимости долгосрочных обязательств по инфраструктуре. Такая гибкость особенно ценна для разработчиков и организаций, желающих экспериментировать с ИИ без значительных предварительных инвестиций.

Поскольку ИИ продолжает развиваться и находить новые применения в различных отраслях, инструменты, упрощающие разработку и развертывание, будут играть решающую роль в распространении. Это сотрудничество между NVIDIA и Hugging Face дает разработчикам ресурсы, необходимые для расширения границ возможного с помощью ИИ".