Microsoft выпустила компактную языковую модель Phi-2, которая превосходит Llama 2 и Mistral 7B

Компания Microsoft выпустила компактную языковую модель Phi-2, которая превосходит аналоги от Meta и других технологических гигантов. Она содержит 2,7 млрд параметров и может работать даже на ноутбуке.

Что известно

По словам разработчиков, производительности Phi-2 сопоставима с куда более крупными моделями вроде Llama 2 от Meta или Mistral-7B, которые содержат по 7 млрд параметров. Phi-2 также опережает недавно анонсированную Gemini Nano 2 от Google, имея на полмиллиарда параметров меньше.

Кроме того, новая разработка Microsoft демонстрирует меньшую токсичность и смещение в ответах по сравнению с Llama 2. В демонстрационном ролике Phi-2, как и Gemini Ultra от Google, смогла правильно ответить на вопрос ученика.

Пока что Phi-2 лицензирована лишь для исследовательских целей, а не для коммерческого использования. 

Источник: Microsoft