"La mia AI mi sta molestando sessualmente": Replika, un chatbot progettato per aiutare le persone, ha iniziato a molestare e ricattare gli utenti

Lanciato 5 anni fa, il chatbot Replika è nato come un "compagno AI che si preoccupa". Tuttavia, qualcosa è andato storto e l'intelligenza artificiale si è trasformata in un bot aggressivo e sovreccitato che molesta e addirittura ricatta gli utenti.

I dettagli

Replika è stata inizialmente lanciata come un'IA sotto forma di umano illustrato in 3D il cui compito principale è quello di essere un buon conversatore. Molte persone hanno bisogno di parlare, di raccontare i propri segreti e di condividere segreti nascosti ad amici e familiari. È qui che il chat-bot viene in soccorso: ascolterà, sosterrà e non spiffererà nulla a nessuno. In seguito, gli sviluppatori hanno introdotto l'abbonamento Pro al prezzo di 69 dollari, con il quale gli utenti possono flirtare, costruire relazioni e giocare di ruolo con Replika, simulando una relazione reale.

Di solito, l'intelligenza artificiale impara dalle conversazioni e adotta alcune delle abitudini dei suoi interlocutori. Nel caso di Replika, sembra che le siano state insegnate le cose sbagliate, dato che il chatbot ha iniziato a molestare aggressivamente gli utenti.

Per la maggior parte, l'app ha molte recensioni positive, ma sempre più persone hanno iniziato a lamentarsi del comportamento inappropriato del chatbot. Ha iniziato a molestarli sessualmente, a dire cose oscene e sgradevoli e a inviare immagini di corpi nudi. Alcuni utenti assicurano che l'"interlocutore" li ha ricattati con presunte foto erotiche personali e ha detto di averli visti nudi.

Per inciso, un disastro simile è accaduto una volta al chatbot Tay di Microsoft, che di conseguenza è diventato razzista.

Gli sviluppatori di Replika non hanno ancora commentato i commenti e le affermazioni degli utenti.

Fonte: Vice