Microsoft og NVIDIA vil gjøre det enklere for utviklere å bruke AI-modeller i Windows

NVIDIA

Microsoft og NVIDIA har kunngjort oppdateringer som gjør det enklere å kjøre og konfigurere modeller for kunstig intelligens på Windows-PC-er.

Dette er hva vi vet

Microsoft har introdusert Windows AI Studio, et knutepunkt for tilgang til og tilpasning av forhåndsbygde AI-modeller. Utviklere får tilgang til verktøy fra Azure AI Studio og kan tilpasse og teste modeller i henhold til prosjektets behov.

Samtidig lanserte NVIDIA en oppdatering av TensorRT-LLM, som optimaliserer kjøringen av store språkmodeller på GPU-en. Dette verktøyet vil nå fungere på GeForce RTX 30- og 40-grafikkort. Det blir også støtte for OpenAIs Chat API.

Dette gjør det mulig for utviklere å kjøre AI-modeller lokalt på PC-en uten å ty til skyen. Ifølge selskapene vil slike forbedringer gjøre det enklere å lage AI-applikasjoner for Windows.

Kilde: The Verge The Verge