Microsoft a lancé le modèle de langage compact Phi-2, qui surpasse le Llama 2 et le Mistral 7B.

Microsoft a lancé Phi-2, un modèle de langage compact qui surpasse ses homologues de Meta et d'autres géants de la technologie. Il contient 2,7 milliards de paramètres et peut même fonctionner sur un ordinateur portable.

Ce que nous savons

Selon les développeurs, les performances de Phi-2 sont comparables à celles de modèles beaucoup plus grands comme Llama 2 ou Mistral-7B de Meta, qui contiennent chacun 7 milliards de paramètres. Phi-2 devance également le Gemini Nano 2 récemment annoncé par Google, qui contient un demi-milliard de paramètres en moins.

Le nouveau développement de Microsoft présente également moins de toxicité et de biais de réponse que Llama 2. Dans la démo, Phi-2, comme Gemini Ultra de Google, a pu répondre correctement à la question d'un étudiant.

Pour l'instant, Phi-2 n'est autorisé qu'à des fins de recherche et ne peut être utilisé à des fins commerciales.

Source : Microsoft