Meta и Qualcomm объединились для запуска больших языковых моделей на телефонах

Компании Qualcomm и Meta объявили, что с 2024 года большая языковая модель Llama 2 будет работать на чипах Qualcomm в телефонах и ПК.

Что известно

Запуск языковых моделей на мобильных процессорах позволит запускать ИИ-приложения вроде голосовых помощников непосредственно на устройствах, а не в облаке. Это может снизить стоимость и улучшить производительность таких систем.

Llama 2 — это модель с открытым исходным кодом, которая делает многое из того же, что и GPT-4 или PaLM-2. При этом она может быть упакована в меньшую программу для работы на телефоне. Qualcomm сделает ее доступной на своих устройствах, которые имеют специальный процессор для искусственного интеллекта.

В прошлом компании тесно сотрудничали по чипам для виртуальной реальности. Qualcomm  также демонстрировала некоторые модели искусственного интеллекта на своих процессорах, такие как генератор изображений Stable Diffusion.

Для тех, кто хочет знать больше:

• Meta и Microsoft выпустили Llama 2 — языковую модель искусственного интеллекта для коммерческого использования.

Источник: CNBC.