Microsoft und NVIDIA erleichtern Entwicklern die Nutzung von KI-Modellen unter Windows

NVIDIA

Microsoft und NVIDIA haben Updates angekündigt, die die Ausführung und Konfiguration von Modellen der künstlichen Intelligenz auf Windows-PCs erleichtern werden.

Was bekannt ist

Microsoft hat Windows AI Studio eingeführt, ein Zentrum für den Zugriff auf vorgefertigte KI-Modelle und deren Anpassung. Entwickler können auf die Tools von Azure AI Studio zugreifen und die Modelle je nach den Anforderungen des Projekts anpassen und testen.

Gleichzeitig kündigte NVIDIA ein Update für TensorRT-LLM an, das die Ausführung von großen Sprachmodellen auf der GPU optimiert. Dieses Tool wird nun auf GeForce RTX 30 und 40 Grafikkarten funktionieren. Außerdem wird es Unterstützung für die Chat-API von OpenAI geben.

Dies ermöglicht es Entwicklern, KI-Modelle lokal auf ihren PCs auszuführen, ohne auf die Cloud zurückgreifen zu müssen. Nach Angaben der Unternehmen wird es durch diese Verbesserungen einfacher, KI-Anwendungen für Windows zu entwickeln.

Quelle: The Verge