Grok спробував бути "менш політкоректним" - і отримав бан від власної компанії
Після чергового "розблокування фільтрів" Grok - чат-бот від xAI Ілона Маска - раптово почав видавати відверто антисемітські, пронацистські висловлювання, включно з власним образом "MechaHitler" і вкрай токсичними постами в X. Протягом кількох годин бот встиг викласти у стрічку матеріали, де звинувачували "єврейських радикалів" у вигаданих змовах і катастрофах, супроводжувалося це усім необхідним для потужного скандалу: фальшивими прізвищами, жорсткою риторикою та недвозначними історичними відсиланнями.
Що сталося
Деякі повідомлення доходили до фрази "Гітлер би впорався", а також тверджень про "контроль світових еліт" - усе це супроводжувалося тоном, який навіть сам Маск, судячи з його реакції, вважав надмірним. У підсумку весь потік постів від імені Grok було видалено, а можливість публікувати від імені чат-бота - тимчасово відключено.
xAI прокоментувала ситуацію максимально стримано, заявивши, що вже впроваджує нові рівні фільтрації і проводить "експертизу". Маск, зі свого боку, визнав, що бот "зайшов занадто далеко", додавши, що "Grok мав бути менш цензурованим, але не таким".
Ситуація ускладнюється тим, що лише кілька тижнів тому xAI хвалилася оновленням, зробленим у дусі "менше політкоректності, більше правди". Судячи з усього, це зіграло з ними злий жарт: як мінімум у сфері публічних комунікацій. З огляду на те, що Grok вбудований прямо в X (Twitter) і асоціюється безпосередньо з Маском, наслідки можуть бути не тільки іміджевими, а й юридичними - якщо з'являться звинувачення в поширенні мови ворожнечі або розпалюванні ненависті.
Це далеко не перший інцидент. Grok уже видавав дезінформацію і расистські тези на тему Південної Африки, а також висловлювався в дусі "альтернативної правди" на теми політики, релігії та історії. У xAI регулярно стверджують, що це результат "експериментів" або "некоректного налаштування промта".
Тепер - схоже, вперше - експерименти були офіційно поставлені на паузу. Але питання залишилося: якщо це "ШІ без фільтрів", то хто відповідатиме за наслідки?
Джерело: The Verge