Microsoft heeft het Phi-2 compacte taalmodel uitgebracht, dat beter presteert dan Llama 2 en Mistral 7B

Via: Bohdan Kaminskyi | 13.12.2023, 19:45
Microsoft heeft het Phi-2 compacte taalmodel uitgebracht, dat beter presteert dan Llama 2 en Mistral 7B
Microsoft

Microsoft heeft Phi-2 uitgebracht, een compact taalmodel dat beter presteert dan tegenhangers van Meta en andere techgiganten. Het bevat 2,7 miljard parameters en kan zelfs op een laptop draaien.

Dit is wat we weten

Volgens de ontwikkelaars zijn de prestaties van Phi-2 vergelijkbaar met veel grotere modellen zoals Meta's Llama 2 of Mistral-7B, die elk 7 miljard parameters bevatten. Phi-2 ligt ook voor op de onlangs aangekondigde Gemini Nano 2 van Google, die een half miljard parameters minder heeft.

Microsoft heeft het Phi-2 compacte taalmodel uitgebracht, dat beter presteert dan Llama 2 en Mistral 7B-2
Prestatievergelijking tussen Phi-2 en andere jazikoi-modellen.

Microsofts nieuwe ontwikkeling vertoont ook minder toxiciteit en antwoordvertekening in vergelijking met Llama 2. In de demo was Phi-2, net als Google's Gemini Ultra, in staat om de vraag van een student correct te beantwoorden.

Microsoft heeft het Phi-2 compacte taalmodel uitgebracht, dat beter presteert dan Llama 2 en Mistral 7B-3
Een voorbeeld van het Phi-2 model dat een vraag beantwoordt.

Voorlopig is Phi-2 alleen gelicentieerd voor onderzoeksdoeleinden en niet voor commercieel gebruik.

Bron: Microsoft