Microsoft и NVIDIA упростят разработчикам использование моделей ИИ на Windows

NVIDIA

Компании Microsoft и NVIDIA анонсировали обновления, которые упростят запуск и настройку моделей искусственного интеллекта на ПК с Windows.

Что известно

Microsoft представила Windows AI Studio — центр для доступа к готовым моделям ИИ и их кастомизации. Разработчики смогут получить доступ к инструментам из Azure AI Studio, а также настраивать и тестировать модели в соответствии с нуждами проекта.

Одновременно с этим NVIDIA объявила об обновлении TensorRT-LLM, который оптимизирует запуск крупных языковых моделей на GPU. Теперь этот инструмент будет работать на видеокартах GeForce RTX 30 и 40. Также появится поддержка API Chat от OpenAI.

Это позволит разработчикам локально запускать модели ИИ на своих ПК, не прибегая к облаку. По заявлению компаний, такие улучшения упростят создание приложений искусственного интеллекта для Windows.

Источник: The Verge