Huawei openPangu 2.0 Pro: 505 мільярдів параметрів у вільному доступі
Huawei продовжує гру в «щедрість», випускаючи у світ openPangu 2.0 Pro. Це не просто чергова нейронка, а заявка на домінування в екосистемі відкритого коду, особливо там, де люблять залізо Ascend. Китайський гігант вирішив, що приховувати такі потужності від розробників більше немає сенсу (або просто хоче наздогнати конкурентів у сегменті open-source). Модель уже доступна для завантаження, та її характеристики виглядають досить переконливо на папері.
Цифри, що вражають уяву (або хоча б сервери)
OpenPangu 2.0 Pro оперує вражаючими 505 мільярдами параметрів. Проте тут є нюанс: архітектура моделі передбачає, що на кожен токен активуються лише 18 мільярдів параметрів. Це дозволяє зберігати баланс між «розумом» та швидкістю обробки даних, не перетворюючи сервер на обігрівач для всього кварталу. Такий підхід робить пристрій (якщо ми говоримо про програмний продукт як частину системи) значно ефективнішим у реальних завданнях.
Ще один важливий аспект — контекстне вікно на 512 тисяч токенів. Це означає, що нейронка здатна «проковтнути» та проаналізувати цілу книгу або величезний масив технічної документації за один раз, не втрачаючи нитку розмови. Для порівняння, багато популярних моделей усе ще обмежуються значно меншими обсягами, що змушує розробників вигадувати «костилі» для роботи з довгими текстами.
Залізо має значення
Huawei не була б собою, якби не підкреслила роль власної інфраструктури. Модель openPangu 2.0 Pro спеціально оптимізована для роботи з чипсетами Ascend. Компанія обіцяє «передові методи» ефективного використання цих процесорів як під час навчання, так і під час виведення результатів. Це чіткий сигнал ринку: якщо хочете максимальної продуктивності від китайського ШІ, доведеться використовувати й відповідне залізо.
Відкритість як стратегія
Усі внутрішні параметри та компоненти openPangu 2.0 Pro вже викладені на платформах із відкритим вихідним кодом. Huawei Cloud також пропонує платформу MaaS (Model-as-a-Service) для тих, хто воліє не забивати власні сервери, а працювати в хмарі.
Ми щиро запрошуємо розробників з усього світу, корпоративних партнерів та дослідників завантажити та використовувати ці продукти. Ми вітаємо відгуки користувачів, які допоможуть подальшому вдосконаленню екосистеми відкритого вихідного коду.
Такий крок виглядає як спроба створити потужну спільноту навколо своїх технологій. Поки західні компанії закривають свої найпотужніші напрацювання за платними API, Huawei йде шляхом «демократизації», щоправда, зі специфічним присмаком власної екосистеми. Поки гіганти змагаються в обчислювальних потужностях, інші гравці намагаються знайти ШІ місце ближче до тіла користувача. Наприклад, Kunlun Tech хоче, щоб ШІ чув кожне ваше слово за допомогою розумних кулонів та каблучок.