В Google Play призывают разработчиков к тщательному тестированию приложений с искусственным интеллектом

Google Play заявил о новых указаниях для разработчиков, направленных на повышение качества и безопасности приложений, основанных на искусственном интеллекте (ИИ).

Что известно

Согласно объявлению, Google призывает разработчиков активно документировать процессы тестирования, в частности меры предохранительной безопасности, которые должны защитить от потенциально вредного или оскорбительного контента.

Одной из ключевых рекомендаций является пересмотр политики в отношении контента, сгенерированного ИИ, чтобы обеспечить соответствие ограничений по созданию недопустимого содержания и возможность пользователей сигнализировать об оскорбительном материале.

Кроме того, разработчики должны убедиться, что их маркетинговые материалы четко отражают функции приложений и соответствуют требованиям Google Play по рекламе.

Google также отметил важность тщательного тестирования, включая проверку возможностей ИИ для манипуляции генеративными функциями во избежание создания вредоносного контента.

Технический гигант планирует внедрить новые возможности адаптации для отправки приложений с ИИ в магазин приложений Play.

Компания отметила, что использует большие языковые модели для быстрого анализа большого объема текста, чтобы выявлять потенциально опасное содержимое и обеспечивать безопасность пользователей.

Источник: Google