Honor Magic V5 зможе локально на пристрої запускати ШІ

Honor представила першу в галузі модель великих мовних моделей (LLM), що працює безпосередньо на самому пристрої, а не в хмарі. Виробник обіцяє запустити цю функцію на міжнародній версії Honor Magic V5 пізніше на цьому тижні.

Навіщо це?

Робота безпосередньо на пристрої дозволяє отримати більшу швидкість і зменшити затримки. Наприклад, переклад розмови на льоту можливий лише при роботі безпосередньо на пристрої. Також локальний штучний інтелект більш конфіденційний — ваші дані фізично не покидають пристрій.

Деталі

Технологія Honor дозволяє зменшити обсяг мовних пакетів — замість стандартних 3–4 Гб для шести мов (китайська, англійська, німецька, французька, іспанська, італійська), мовні пакети скоротили до 800 Мб, звільнивши близько 2.78 ГБ простору на телефоні.

Обробка голосу й переклад відбувається моментально, до закінчення речення. Honor заявляє, що це дозволяє досягти  на 38% швидшої обробки (ніж через хмарні LLM) і на 16% кращої точності розпізнавання. Розробки підтверджені двома науковими роботами INTERSPEECH 2025, зокрема:

• MFLA: Monotonic Finite Look-ahead Attention for Streaming Speech Recognition — для швидкого й точного розпізнавання мовлення.
• Novel Parasitic Dual-Scale Modeling for Efficient and Accurate Multilingual Speech Translation — для прискорення обробки великих моделей з підтримкою багатомовності.

Вірогідно, слід очікувати, що технології штучного інтелекту продовжать розвиватися в тому числі на локальних пристроях. Нагадаємо, кілька місяців тому Google вже розмістив LLM на смартфоні Pixel 6, але там була не 6-мовна модель, а урізана, адаптована для розпізнавання «мови» дельфінів.