Семь голов лучше одной: как Bosgame превращает мини-ПК в ИИ-монстра
Запуск больших языковых моделей (LLM) обычно требует либо бездонного кошелька для оплаты облачных сервисов, либо серверной комнаты, которая потребляет энергию как небольшой городок. Однако компания Bosgame решила пойти другим путём, продемонстрировав, что для локальной работы с DeepSeek-V3.1 — монстром на 671 миллиард параметров — совсем не обязательно покупать стойку с Nvidia H100.
Когда количество переходит в качество
Решение Bosgame основано на масштабировании мощностей с помощью семи мини-ПК модели M5 AI. Это устройство построено на базе процессора Ryzen AI Max+ 395. Это представитель линейки Strix Halo, где AMD сделала ставку на мощную интегрированную графику и быструю память, что критически важно для ИИ-вычислений. В топовой конфигурации каждый такой "малыш" имеет 128 ГБ оперативной памяти, что вполне достаточно для повседневных задач, но недостаточно для запуска DeepSeek в одиночку.
Магия последовательного подключения
Секрет превращения семи отдельных коробок в единый суперкомпьютер кроется в технологии USB4 Direct Connection. Это позволяет узлам работать в тесной связке без использования сложной и дорогой централизованной серверной архитектуры. Фактически, пользователь получает распределённую систему с следующими характеристиками:
- Общий объём унифицированной памяти: 896 ГБ.
- Память, выделенная под потребности GPU: до 672 ГБ.
- Отсутствие необходимости в специализированном охлаждении серверного уровня.
Такой подход позволяет наращивать мощность постепенно. Можно начать с одного устройства и докупать новые по мере роста аппетитов ваших нейросетей. Bosgame акцентирует на том, что суммарное энергопотребление такого кластера остаётся в пределах разумного, а стоимость — значительно ниже профессиональных серверных решений аналогичной мощности.
Цена вопроса и рыночные реалии
Правда, есть один нюанс, который может несколько испортить настроение потенциальным покупателям. Если в начале прошлого года топовая версия M5 AI стоила около $1 700 (75 600 грн), то сейчас производитель просит за неё уже $2 800 (124 600 грн). Похоже, дефицит мощных чипов AMD или просто осознание уникальности своего продукта заставили Bosgame пересмотреть ценники в сторону существенного увеличения.
Тем не менее, даже по такой цене сборка из семи узлов выглядит интересной альтернативой для разработчиков, которые хотят держать свои данные при себе, а не отправлять их в облако. Это прямолинейное железное решение для тех, кто ценит локальность и независимость от больших корпораций.
Пока Bosgame предлагает собирать локальные кластеры на столе, в большой игре ставки значительно выше. Например, SpaceX готовит миллиардный контракт на предоставление облачных ИИ-вычислений для Пентагона, что демонстрирует совсем другой уровень масштабирования технологий.
Подписывайтесь на наш нескучный канал в Telegram, чтобы ничего не пропустить.
