Meta і Qualcomm об'єдналися для запуску великих мовних моделей на телефонах
Компанії Qualcomm і Meta оголосили, що з 2024 року велика мовна модель Llama 2 працюватиме на чипах Qualcomm у телефонах і ПК.
Що відомо
Запуск мовних моделей на мобільних процесорах дасть змогу запускати АІ-додатки на кшталт голосових помічників безпосередньо на пристроях, а не в хмарі. Це може знизити вартість і поліпшити продуктивність таких систем.
Llama 2 - це модель із відкритим вихідним кодом, яка робить багато чого з того, що і GPT-4 або PaLM-2. При цьому вона може бути упакована в меншу програму для роботи на телефоні. Qualcomm зробить її доступною на своїх пристроях, які мають спеціальний процесор для штучного інтелекту.
У минулому компанії тісно співпрацювали щодо чипів для віртуальної реальності. Qualcomm також демонструвала деякі моделі штучного інтелекту на своїх процесорах, такі як генератор зображень Stable Diffusion.
Для тих, хто хоче знати більше:
Джерело: CNBC.