Intel демонстрирует новейший чип искусственного интеллекта "Gaudi", предназначенный для предприятий

По словам Intel, чип почти в два раза быстрее обучает большие языковые модели по сравнению с H100 от Nvidia и на пятьдесят процентов быстрее делает выводы.

Во вторник чип-гигант Intel представил свой новейший чип, предназначенный для обработки данных искусственного интеллекта, "Gaudi 3", после того как за две недели до этого заклятый соперник Nvidia представила свой графический процессор Blackwell.

Представленный на сцене генеральным директором Пэтом Гелсингером во время прямой трансляции ключевого выступления на конференции для клиентов и партнеров Intel Vision 2024 в Фениксе, штат Аризона, акцент был сделан на привлекательности Gaudi 3 для предприятий, с акцентом на такие цели, как автоматизация корпоративных задач.

Gaudi 3 - это третье поколение специализированных чипов Intel, предназначенных для обучения искусственного интеллекта. Intel приобрела это семейство чипов, купив в 2019 году за 2 миллиарда долларов венчурный стартап Habana Labs из Тель-Авива.

По словам Гелсингера, Gaudi 3 почти в два раза быстрее, чем основной GPU Nvidia, чип H100, при обучении моделей искусственного интеллекта, таких как большая языковая модель TensorRT.

(Модель ИИ - это часть программы ИИ, содержащая множество параметров нейронной сети и функций активации, которые являются ключевыми элементами для работы программы ИИ).

Guadi 3 на 50 % быстрее H100 при выполнении умозаключений, когда обученная нейронная сеть делает предсказания в ответ на реальные вопросы.

Семейство чипов Gaudi продемонстрировало высокие результаты в недавних бенчмарк-тестах в сравнении с Nvidia. В последнем раунде конкурса MLPerf, проводимого отраслевым консорциумом MLCommons, существующий чип Gaudi 2 был единственным чипом для центров обработки данных, который конкурировал с H100 в предсказаниях с использованием 70-миллиардной модели языка Llama 2 от Meta с открытым исходным кодом.

"Самое главное - это огромные преимущества по стоимости владения для вашей организации", - сказал Гелсингер.

К Гелсингеру на сцене присоединились Майкл Делл, вице-президент IBM по продуктам Эдвард Калвесберт, глава подразделения генеративного ИИ компании Databricks Навин Рао (бывший руководитель Intel), а также руководители компании Naver, которая называет себя крупнейшей интернет-компанией Южной Кореи.

Gaudi 3 - это третье поколение специализированного чипа Intel для обучения и вывода данных искусственного интеллекта.

"Что нам нужно, так это больше Gaudi 3 в объеме", - сказал Майкл Делл, после чего ему вручили металлический портфель. Делл открыл кейс, и из него вырвалось жуткое голубое свечение, напоминающее сцену из фильма Квентина Тарантино "Криминальное чтиво", и выразил "Вау".

Gaudi 3 состоит из 64 отдельных тензорных ядер, которые ускоряют матричные умножения, лежащие в основе обработки данных ИИ, при помощи восьми дискретных "матричных математических движков". Процессор использует 96 мегабайт быстрой кэш-памяти SRAM на кристалле и еще 128 гигабайт внешней памяти "HBM3e", самой быстрой в отрасли DRAM, состоящей из нескольких чипов памяти, уложенных рядом с процессором.

При выполнении 8-битных математических операций с плавающей запятой Guadi 3 может достигать 1,84 терафлопс - триллиона операций с плавающей запятой в секунду, что является широко используемым показателем производительности чипов.

Неудивительно, что, учитывая ориентацию мероприятия на потребителя, Гелсингер в своем выступлении с помощью гостей со сцены, таких как Dell, нацелился на корпоративные задачи, где, по его словам, программы искусственного интеллекта переходят от экспериментальных стадий к реализации.

По словам Гелсингера, Gaudi 3 поможет продвинуть ИИ через три разных этапа. Первая, нынешняя стадия, - это "Эра совместных пилотов ИИ", - сказал Гелсингер. "Второй этап уже близок - это век агентов ИИ".

Третьим этапом станет "Эра функций ИИ", когда технология будет внедрена для "автоматизации сложных, общеорганизационных результатов".

По словам Гелсингера, по мере продвижения технологии к третьему этапу автоматизация функций и связанная с этим эффективность означают, что "возможно, у нас появится первая миллиардная компания, состоящая из одного человека", благодаря таким достижениям, как "разблокирование всех данных", хранящихся в организациях.

"Intel, мы созданы для таких моментов; вместе со всеми вами мы снова изменим мир".