ШІ у валізі: ELSA випустила мобільний дата-центр Gigalo Gryf на коліщатках
Якщо ви думали, що валізи потрібні лише для відпустки чи відряджень, то японська компанія ELSA готова посперечатися. Їхній новий проєкт Gigalo Gryf (Гігало Гріф) — це буквально обчислювальна потужність цілої серверної стійки, запакована в корпус, який можна котити за собою терміналом аеропорту. Пристрій розроблено спільно з Gigalo, та він орієнтований на тих, кому потрібно розгортати нейромережі локально, не чекаючи на вільні потужності в хмарі та не орендуючи місце в дата-центрі.
Залізо, яке завжди з тобою
Головна фішка системи — її формат. Вага Gigalo Gryf не перевищує 25 кг, що за мірками професійного серверного обладнання майже нічого. Це вже не просто робоча станція, яку важко підняти самому, а повноцінний мобільний комплекс. Усередині корпусу передбачено шість слотів для модулів, які користувач може комбінувати залежно від потреб: можна поставити більше обчислювальних блоків, прискорювачів або накопичувачів.
Серцем системи виступають серверні процесори AMD Epyc 7713P або Epyc 7313P. Але оскільки ми говоримо про ШІ, головну роль відіграє графіка. ELSA пропонує конфігурації з прискорювачами Nvidia H100 NVL на 94 ГБ або Nvidia L40S на 48 ГБ. Варіант із топовим H100 видає вражаючі 3341 TFLOPS у форматі FP8. Для зберігання даних передбачено сховище об'ємом до 246 ТБ — цього цілком достатньо, щоб возити з собою невелику бібліотеку для навчання моделей.
Магія шини Fabrex та гнучкість налаштувань
Найцікавіше приховано в архітектурі. У Gigalo Gryf використовується фірмова шина Gigalo’s Fabrex PCIe/CXL. Вона дозволяє програмно перерозподіляти ресурси між центральним процесором, графічними ядрами та пам'яттю. Тобто вам не потрібно лізти всередину з викруткою та перемикати кабелі, щоб змінити конфігурацію системи під конкретне завдання — усе робиться на рівні софту.
Масштабування до петабайтних масштабів
Якщо однієї валізи вам раптом стане замало, ELSA передбачила можливість об'єднання пристроїв. До п'яти систем Gryf можна зібрати в єдиний кластер. У такому режимі платформа здатна видавати понад 3600 TFLOPS FP16, а об'єм сховища перетворюється на петабайтний масив. Це фактично мобільний суперкомп'ютер, який можна розгорнути в будь-якому офісі чи польових умовах, де є розетка та кондиціонер.
Поки японці пакують потужне залізо у валізи для локальних обчислень, Google пропонує бізнесу розвивати навички роботи з софтом. Компанія запускає для українського бізнесу курс зі створення ШІ-агентів, що допоможе автоматизувати процеси навіть без закупівлі власних серверних валіз.