Microsoft і NVIDIA спростять розробникам використання моделей ШІ на Windows

Компанії Microsoft і NVIDIA анонсували оновлення, які спростять запуск і налаштування моделей штучного інтелекту на ПК з Windows.

Що відомо

Microsoft представила Windows AI Studio - центр для доступу до готових моделей ШІ та їхньої кастомізації. Розробники зможуть отримати доступ до інструментів з Azure AI Studio, а також налаштовувати та тестувати моделі відповідно до потреб проєкту.

Одночасно з цим NVIDIA оголосила про оновлення TensorRT-LLM, який оптимізує запуск великих мовних моделей на GPU. Тепер цей інструмент працюватиме на відеокартах GeForce RTX 30 і 40. Також з'явиться підтримка API Chat від OpenAI.

Це дасть змогу розробникам локально запускати моделі ШІ на своїх ПК, не вдаючись до хмари. За заявою компаній, такі поліпшення спростять створення додатків штучного інтелекту для Windows.

Джерело: The Verge