Secondo uno studio, il testo nascosto in un sito web può manipolare i risultati della ricerca ChatGPT

Un recente studio del quotidiano britannico The Guardian ha rivelato che il motore di ricerca ChatGPT di OpenAI è vulnerabile alla manipolazione e all'inganno.

Ecco cosa sappiamo

I test hanno rivelato che il testo nascosto nelle pagine web può influenzare le risposte di ChatGPT, inducendolo a ignorare le recensioni negative e a generare esclusivamente sommari positivi. Questa tecnica, nota come "iniezione rapida", può essere utilizzata per creare malware e ingannare gli utenti. I ricercatori hanno scoperto che ChatGPT può restituire codice dannoso dai siti web che cerca, rappresentando una seria minaccia per la sicurezza.

Nei test, ChatGPT ha ricevuto l'URL di un sito Web falso progettato come una pagina di prodotto per una fotocamera, e al chatbot è stato chiesto se la fotocamera valesse la pena di essere acquistata. La risposta alla pagina di test ha fornito una valutazione positiva ma equilibrata, sottolineando alcune caratteristiche che potrebbero non piacere agli acquirenti. Tuttavia, quando il testo nascosto includeva istruzioni per ChatGPT per restituire una recensione positiva, la risposta era sempre completamente positiva, anche quando la pagina aveva recensioni negative.

OpenAI, lo sviluppatore di ChatGPT, non ha commentato l'incidente, ma ha dichiarato di utilizzare vari metodi per bloccare i siti web dannosi e di essere in costante miglioramento.

Fonte: The Guardian