Meta og Qualcomm går sammen om å lansere store språkmodeller på telefoner
Qualcomm og Meta har kunngjort at den storstilte språkmodellen Llama 2 vil kjøre på Qualcomm-brikker i telefoner og PC-er fra og med 2024.
Dette er hva vi vet
Lanseringen av språkmodeller på mobilprosessorer vil gjøre det mulig for AI-applikasjoner som stemmeassistenter å kjøre direkte på enheter i stedet for i skyen. Dette kan redusere kostnadene og forbedre ytelsen til slike systemer.
Llama 2 er en åpen kildekode-modell som gjør omtrent det samme som GPT-4 eller PaLM-2. Samtidig kan den pakkes inn i en mindre applikasjon som kan kjøres på en telefon. Qualcomm vil gjøre den tilgjengelig på sine enheter som har en dedikert prosessor for kunstig intelligens.
Selskapene har tidligere samarbeidet tett om brikker for virtuell virkelighet. Qualcomm har også demonstrert noen AI-modeller på sine prosessorer, for eksempel bildegeneratoren Stable Diffusion.
Gå dypere:
Kilde: CNBC: CNBC.