Microsoft og NVIDIA vil gjøre det enklere for utviklere å bruke AI-modeller i Windows
NVIDIA
Microsoft og NVIDIA har kunngjort oppdateringer som gjør det enklere å kjøre og konfigurere modeller for kunstig intelligens på Windows-PC-er.
Dette er hva vi vet
Microsoft har introdusert Windows AI Studio, et knutepunkt for tilgang til og tilpasning av forhåndsbygde AI-modeller. Utviklere får tilgang til verktøy fra Azure AI Studio og kan tilpasse og teste modeller i henhold til prosjektets behov.
Samtidig lanserte NVIDIA en oppdatering av TensorRT-LLM, som optimaliserer kjøringen av store språkmodeller på GPU-en. Dette verktøyet vil nå fungere på GeForce RTX 30- og 40-grafikkort. Det blir også støtte for OpenAIs Chat API.
Dette gjør det mulig for utviklere å kjøre AI-modeller lokalt på PC-en uten å ty til skyen. Ifølge selskapene vil slike forbedringer gjøre det enklere å lage AI-applikasjoner for Windows.
Kilde: The Verge The Verge