Microsoft et NVIDIA vont faciliter l'utilisation de modèles d'IA par les développeurs sous Windows

Microsoft et NVIDIA ont annoncé des mises à jour qui faciliteront l'exécution et la configuration de modèles d'intelligence artificielle sur les PC Windows.

Voici ce que nous savons

Microsoft a introduit Windows AI Studio, un centre d'accès et de personnalisation des modèles d'intelligence artificielle préconstruits. Les développeurs pourront accéder aux outils d'Azure AI Studio et personnaliser et tester les modèles en fonction des besoins du projet.

Parallèlement, NVIDIA a annoncé une mise à jour de TensorRT-LLM, qui optimise l'exécution de modèles de langage volumineux sur le GPU. Cet outil fonctionnera désormais sur les cartes graphiques GeForce RTX 30 et 40. L'API Chat d'OpenAI sera également prise en charge.

Cela permettra aux développeurs d'exécuter des modèles d'IA localement sur leurs PC sans avoir recours au cloud. Selon les entreprises, ces améliorations faciliteront la création d'applications d'IA pour Windows.

Source : The Verge The Verge