Microsoft y NVIDIA facilitarán a los desarrolladores el uso de modelos de IA en Windows
NVIDIA
Microsoft y NVIDIA han anunciado actualizaciones que facilitarán la ejecución y configuración de modelos de inteligencia artificial en PC con Windows.
Esto es lo que sabemos
Microsoft ha introducido Windows AI Studio, un centro de acceso y personalización de modelos de inteligencia artificial ya creados. Los desarrolladores podrán acceder a las herramientas de Azure AI Studio y personalizar y probar los modelos en función de las necesidades del proyecto.
Al mismo tiempo, NVIDIA ha anunciado una actualización de TensorRT-LLM, que optimiza la ejecución de grandes modelos de lenguaje en la GPU. Esta herramienta funcionará ahora en las tarjetas gráficas GeForce RTX 30 y 40. También habrá compatibilidad con la API de chat de OpenAI.
Esto permitirá a los desarrolladores ejecutar modelos de IA localmente en sus PC sin recurrir a la nube. Según las compañías, estas mejoras facilitarán la creación de aplicaciones de IA para Windows.
Fuente: The Verge