AMD представила чипи для прискореного навчання штучного інтелекту

PaulSakuma.com

Компанія AMD анонсувала нові прискорювачі та процесори, орієнтовані на роботу з великими мовними моделями (LLM).

Що відомо

Чипмейкер представив прискорювач Instinct MI300X і процесор Instinct M1300A для навчання і запуску LLM. Як заявляє компанія, обидві новинки перевершують своїх попередників за обсягом пам'яті та енергоефективністю.

За словами генерального директора AMD Лізи Су (Lisa Su), MI300X - "найпродуктивніший прискорювач у світі". Його можна порівняти з чипом H100 від Nvidia в плані навчання LLM, але він у 1,4 раза перевершує його у висновках на прикладі роботи з моделлю Llama 2 від Meta (70 млрд параметрів).

Також AMD оголосила про співпрацю з Microsoft для встановлення MI300X у хмарні обчислювальні машини Azure. Компанія Meta також заявила про плани щодо впровадження процесорів MI300 у своїх дата-центрах.

Крім того, Су повідомила про випуск APU MI300A для ЦОД, які, за її словами, збільшать обсяг ринку до $45 млрд. APU об'єднують CPU і GPU для швидшої обробки даних. За заявами AMD, MI300A забезпечує високу продуктивність, швидке навчання моделей і 30-кратне зростання енергоефективності. Він має в 1,6 раза більший обсяг пам'яті у порівнянні з H100 і реалізує уніфіковану пам'ять.

MI300A буде використовуватися в суперкомп'ютері El Capitan, побудованому Hewlett Packard Enterprise для Ліверморської національної лабораторії. Це одна з найпотужніших установок у світі з продуктивністю понад 2 екзафлопс.

Інформацію про ціни на новинки компанія не надала.

Разом з тим, AMD анонсувала Ryzen 8040 - чипи, які дадуть змогу впровадити більше функцій ШІ в мобільні пристрої. Згідно з анонсом, серія 8040 забезпечує в 1,6 раза більшу продуктивність обробки ШІ порівняно з попереднім поколінням, а також має вбудовані нейропроцесори (NPU).

Компанія очікує, що продукти на базі Ryzen 8040 з'являться в продажу в 1 кварталі 2024 року.

Джерело: The Verge