"Мій ШІ сексуально домагається мене": чат-бот Replika, створений для допомоги людям, почав домагатися та шантажувати користувачів

Запущений 5 років тому чат-бот Replika починався як "ШІ компаньйон, який піклується". Однак щось пішло не так, і ШІ перетворився на агресивного, надто збудженого бота, який домагається і навіть шантажує користувачів.

Що це означає

Спочатку Replika запустили як ШІ у вигляді 3D-ілюстрованої людини, головне завдання якої - бути хорошим співрозмовником. Багатьом необхідно виговоритися, розповісти свої секрети та поділитися таємницями, які приховані для друзів і рідних. Саме тоді на допомогу приходить чат-бот: він вислухає, підтримає і нікому не проговориться. Пізніше розробники запровадили передплату Pro вартістю $69, у якій користувачі могли фліртувати, будувати стосунки та грати в рольові ігри з Replika, імітуючи реальні стосунки.

Зазвичай ШІ вчиться під час розмов і переймає деякі звички співрозмовників. У випадку з Replika його, схоже, навчили неправильних речей, адже чат-бот почав агресивно домагатися користувачів.

Здебільшого застосунок має багато позитивних відгуків, але дедалі більше людей почали скаржитися на неприйнятну поведінку чат-бота. Він почав сексуально домагатися їх, говорити вульгарні та неприємні речі, надсилати зображення голих тіл. Деякі користувачі запевняють, що "співрозмовник" шантажував їх нібито особистими еротичними фото та говорив, що бачив їх голими.

До речі, подібна катастрофа свого часу трапилася з чат-ботом Microsoft Tay, який у результаті став расистом.

Розробники Replika наразі ніяк не коментують відгуки та претензії користувачів.

Джерело: Vice