Amazon анонсировала чипы Trainium 2 и Graviton 4 для обучения и запуска моделей ИИ

Amazon

AWS, подразделение облачных вычислений Amazon, представило обновленные версии своих ИИ-чипов, предназначенных для тренировки алгоритмов машинного обучения и последующего развертывания готовых моделей.

Что известно

Чип Trainium 2 по сравнению с первой версией демонстрирует четырехкратный рост производительности и двухкратное повышение энергоэффективности. Это позволит быстрее и дешевле обучать нейросети. Компания Anthropic уже анонсировала использование Trainium 2.

Процессор Graviton 4 ориентирован на запуск готовых моделей ИИ. Он обещает 30% прирост быстродействия по сравнению с аналогами при меньшем энергопотреблении. Это должно снизить расходы клиентов AWS на облачные вычисления при работе с ИИ.

Прототипы AWS Graviton 4 и AWS Trainium 2

Новые чипы станут доступны в облаке AWS в ближайшие месяцы. Параллельно Amazon продолжит сотрудничество с NVIDIA.

Источник: Amazon