Meta представила чип второго поколения для обучения и анализа ИИ

Вторая версия кремния Meta более чем в три раза быстрее своего предшественника, благодаря более крупной части и увеличению объема памяти чипа.

Компания Meta представила второе поколение чипа "ускорителя обучения и вывода", или "MTIA", спустя почти год после выхода первой версии, и компания утверждает, что ее новая часть обеспечивает существенный прирост производительности.

Meta, как и другие технологические гиганты, такие как Microsoft, Google и Tesla, инвестирует в специализированное оборудование для искусственного интеллекта (ИИ), чтобы застраховаться от монопольной власти главного поставщика GPU, компании Nvidia. Инвестиции также являются способом обеспечить поставки вычислительной техники, учитывая, что Nvidia не смогла произвести достаточное количество чипов для удовлетворения спроса во время внезапного всплеска интереса к генеративному ИИ.

Как и первая часть, чип MTIA версии 2 состоит из сетки блоков схем, работающих параллельно, - "сетки 8x8 вычислительных элементов (PE)". Чип работает в 3,5 раза быстрее, чем MTIA v1, утверждает Meta. Он в семь раз быстрее выполняет задачи ИИ, связанные с "разреженными" вычислениями, в которых переменные имеют нулевое значение.

По словам Мета, преимущества получены благодаря изменениям в архитектуре чипа и улучшенной памяти и хранилища. "Мы втрое увеличили размер локального хранилища PE, удвоили объем встроенной памяти SRAM и увеличили ее пропускную способность в 3,5 раза, а также удвоили емкость LPDDR5", - заявил технологический гигант.

Чип построен по 5-нанометровому технологическому процессу, разработанному контрактным гигантом по производству микросхем Taiwan Semiconductor Manufacturing.

Более крупный чип площадью 421 квадратный миллиметр против 373 у v1 вмещает 2,4 миллиарда вентилей, сообщает Meta, и выполняет 103 миллиона математических операций с плавающей запятой в секунду. Эта производительность сравнима с 1,1 миллиардом вентилей и 65 миллионами операций для предыдущей модели.

Как и в MTIA v1, новый чип работает под управлением программного обеспечения, которое оптимизирует программы, используя фреймворк разработчика с открытым исходным кодом PyTorch от Meta. Два компилятора работают совместно - один на передней стороне компилирует вычислительный граф программы, а другой на задней стороне написан на языке компилятора Triton с открытым исходным кодом, чтобы генерировать оптимальный машинный код для чипа.

По словам Meta, разработка программного обеспечения для MTIA v1 позволила компании быстро довести новый чип до ума, "пройдя путь от первого кремния до серийных моделей, работающих в 16 регионах, менее чем за девять месяцев". Технологическая компания заявила, что чип будет использоваться для поддержки моделей ранжирования и рекомендательной рекламы.

Компания Meta заявила, что разработала стоечную компьютерную систему, в которой параллельно работают 72 MTIA v2. "Наш дизайн обеспечивает более плотные возможности с более высокой вычислительной мощностью, пропускной способностью памяти и объемом памяти", - заявила Meta. "Такая плотность позволяет нам легче размещать широкий спектр моделей разной сложности и размеров".

Технологическая компания планирует продолжать инвестировать в разработку аппаратного обеспечения на заказ. "В настоящее время мы реализуем несколько программ, направленных на расширение сферы применения MTIA, включая поддержку рабочих нагрузок GenAI", - говорит Мета. "Мы разрабатываем свой кремний для совместной работы с существующей инфраструктурой, а также с новым, более совершенным оборудованием (включая GPU нового поколения), которое мы сможем использовать в будущем".