Сім голів краще за одну: як Bosgame перетворює міні-ПК на ШІ-монстра
Запуск великих мовних моделей (LLM) зазвичай вимагає або бездонного гаманця для оплати хмарних сервісів, або серверної кімнати, що споживає енергію як невелике містечко. Проте компанія Bosgame вирішила піти іншим шляхом, продемонструвавши, що для локальної роботи з DeepSeek-V3.1 — монстром на 671 мільярд параметрів — зовсім не обов'язково купувати стійку з Nvidia H100.
Коли кількість переходить у якість
Рішення Bosgame базується на масштабуванні потужностей за допомогою семи міні-ПК моделі M5 AI. Цей пристрій побудований на базі процесора Ryzen AI Max+ 395. Це представник лінійки Strix Halo, де AMD зробила ставку на потужну інтегровану графіку та швидку пам'ять, що критично важливо для ШІ-обчислень. У топовій конфігурації кожен такий «малюк» має 128 ГБ оперативної пам'яті, чого цілком достатньо для повсякденних завдань, але замало для запуску DeepSeek у поодинці.
Магія послідовного підключення
Секрет перетворення семи окремих коробок на єдиний суперкомп'ютер криється в технології USB4 Direct Connection. Це дозволяє вузлам працювати в тісній зв'язці без використання складної та дорогої централізованої серверної архітектури. Фактично, користувач отримує розподілену систему з наступними характеристиками:
- Загальний обсяг уніфікованої пам'яті: 896 ГБ.
- Пам'ять, виділена під потреби GPU: до 672 ГБ.
- Відсутність потреби в спеціалізованому охолодженні серверного рівня.
Такий підхід дозволяє нарощувати потужність поступово. Можна почати з одного пристрою і докуповувати нові в міру зростання апетитів ваших нейромереж. Bosgame акцентує на тому, що сумарне енергоспоживання такого кластера залишається в межах розумного, а вартість — значно нижчою за професійні серверні рішення аналогічної потужності.
Ціна питання та ринкові реалії
Щоправда, є один нюанс, який може дещо зіпсувати настрій потенційним покупцям. Якщо на старті минулого року топова версія M5 AI коштувала близько 1$ 700 (75 600 грн), то зараз виробник просить за неї вже $2 800 (124 600 грн). Схоже, дефіцит потужних чипів AMD або просто усвідомлення унікальності свого продукту змусили Bosgame переглянути цінники в бік суттєвого збільшення.
Тим не менш, навіть за такою ціною збірка з семи вузлів виглядає цікавою альтернативою для розробників, які хочуть тримати свої дані при собі, а не відправляти їх у хмару. Це прямолінійне залізне рішення для тих, хто цінує локальність та незалежність від великих корпорацій.
Поки Bosgame пропонує збирати локальні кластери на столі, у великій грі ставки значно вищі. Наприклад, SpaceX готує мільярдний контракт на надання хмарних ШІ-обчислень для Пентагону, що демонструє зовсім інший рівень масштабування технологій.
