Stability AI анонсировала компактную языковую модель объемом 1,6 млрд параметров

Компания Stability AI, известная генеративным ИИ для текста и изображений, представила новую компактную языковую модель Stable LM 2 1.6B. По заявлению разработчиков, релиз призван снизить барьеры для экспериментов с ИИ и расширить сообщество за счет меньших вычислительных мощностей.

Что известно

По словам Карлоса Рикельме из Stability AI, главное достижение новинки не в размере, а в совершенстве алгоритмов и объеме качественных тренировочных данных на семи языках. Благодаря этому Stable LM 2 1.6B опережает другие более крупные модели, включая собственную Stable LM 3B. 

В Stability AI говорят, это как с компьютерами и микрочипами — со временем они становятся компактнее и мощнее одновременно.

Технология Stable LM обычно используется для генерирования и понимания текстового контента. С меньшим размером у нее сохраняется риск "галлюцинаций" и токсичного поведения. Компания обещает усовершенствовать управление рисками.

Отдельный акцент Stability AI делает на прозрачность. Помимо готовых моделей, компания публикует их сырые версии перед финальным циклом тренировки. Это должно дать разработчикам возможность адаптировать алгоритмы под свои нужды с лучшим результатом. 

Как отмечают в Stability AI, открытость необходима, чтобы расширить сообщество экспертов в сфере генеративного ИИ.

Источник: VentureBeat