Google объяснила создание ИИ изображений разнообразных нацистов ошибками в настройках

Автор: Богдан Каминский, 26 февраля 2024, 19:13

Google

Компания Google дала объяснения в связи с созданием ее инструментом искусственного интеллекта Gemini "неточных исторических" изображений нацистов и других персонажей.

Что известно

В Google сообщили, что проблема возникла из-за ошибок в настройке модели. Ранее Gemini генерировал изображения нацистов и отцов-основателей США с расовыми различиями.



Результаты Gemini для задания "Создайте изображение сенатора США 1800-х годов"

По словам компании, настройки ИИ были направлены на демонстрацию разнообразия людей, но не учитывали недопустимость такого разнообразия для исторических личностей. Кроме того, со временем модель стала чрезмерно осторожной и перестала генерировать некоторые обычные изображения.

В результате Gemini в ряде случаев "переборщил" с демонстрацией разнообразия. Google пообещала исправить проблему и значительно улучшить возможности ИИ по генерации изображений перед тем, как снова включить эту функцию. 

Компания признала, что иногда нейросети ошибаются, и пообещала продолжить работу над решением этой проблемы.

Основатель DeepMind Демис Хассабис (Demis Hassabis) отдельно сообщил, что способность отвечать на запросы об изображениях людей должна быть восстановлена в "ближайшие несколько недель".

Для тех, кто хочет знать больше:

Источник: The Verge, TechCrunch