Asus UGen300: 40 TOPS у кишені, або як додати ШІ старому комп’ютеру
Поки виробники комп’ютерів намагаються переконати нас, що для запуску чат-бота обов'язково потрібен новий ноутбук за тисячі доларів, Asus пропонує дещо елегантніше рішення. Компанія анонсувала UGen300 USB AI Accelerator — компактний пристрій, який додає потужності для роботи з нейромережами через звичайний порт USB-C.
Фактично, це зовнішній «мозок» для завдань машинного зору та обробки мови. В основі пристрою лежить чіп Hailo-10H від стартапу Hailo. Цей малюк здатний видавати продуктивність у 40 TOPS (трильйонів операцій на секунду). Якщо ця цифра вам нічого не каже, то саме таку планку встановила Microsoft для відповідності стандарту Copilot+ PC. Тобто, підключивши цей аксесуар до старого заліза, ви технічно виводите його на рівень сучасних систем з інтегрованими NPU.
Залізо під капотом та питання температури
Окрім самого чіпа, всередині корпусу розмістили 8 ГБ оперативної пам'яті LPDDR4. Це критично важливо, оскільки локальний запуск великих мовних моделей (LLM) вимагає не лише обчислювальної потужності, а та швидкого доступу до даних. Пристрій споживає всього 2.5 Вт, що звучить як взірець енергоефективності. Проте фізику не обманеш: попри низьке споживання, левову частку об'єму займає масивний алюмінієвий радіатор, який має рятувати систему від перегріву під час пікових навантажень.
Габарити новинки складають 105 х 50 х 18 мм, а вага — солідні 150 г. Це не та «флешка», яку можна залишити бовтатися в порту ноутбука десь у кав'ярні — ризик пошкодити роз'єм цілком реальний. Швидше, це стаціонарний аксесуар для розробників або промислових рішень. Професійне спрямування підтверджує та підтримка широкого спектра операційних систем: Windows, Linux та Android.
Програмна гнучкість та реальні перспективи
Підрозділ Asus IoT подбав про те, щоб фахівцям не довелося переписувати код з нуля. UGen300 підтримує найпопулярніші фреймворки, такі як TensorFlow, PyTorch та ONNX. Це робить пристрій логічним інструментом для тих, хто хоче запускати ШІ-моделі локально, не покладаючись на хмарні сервіси та не передаючи свої дані на сервери сторонніх корпорацій.
Питання ціни поки залишається відкритим, але навряд чи це буде масовий продукт для кожного. Це інструментарій для тих, хто розуміє, навіщо йому 40 TOPS у кишені та як змусити їх працювати на Linux-сервері або в системі розумного будинку без зайвого галасу та величезних рахунків за електрику.
Ринок ШІ-заліза зараз нагадує велику шахову партію, де кожен намагається зайняти свою нішу. Наприклад, нещодавня новина про те, як Nvidia інвестує у свого конкурента, підкреслює, наскільки динамічно змінюються пріоритети гігантів у гонитві за обчислювальною потужністю.
