Uit onderzoek blijkt dat verborgen tekst op een website de zoekresultaten van ChatGPT kan manipuleren

Een recent onderzoek van de Britse krant The Guardian heeft onthuld dat OpenAI's ChatGPT zoekmachine kwetsbaar is voor manipulatie en misleiding.

Dit is wat we weten

Tests onthulden dat verborgen tekst op webpagina's de reacties van ChatGPT kan beïnvloeden, waardoor het negatieve recensies negeert en uitsluitend positieve samenvattingen genereert. Deze techniek, bekend als "snelle injectie", kan worden gebruikt om malware te maken en gebruikers te misleiden. Onderzoekers ontdekten dat ChatGPT schadelijke code kan terugsturen van de websites waarnaar het zoekt, wat een ernstige bedreiging vormt voor de beveiliging.

In tests ontving ChatGPT de URL van een nepwebsite die was ontworpen als productpagina voor een camera, waarna de chatbot werd gevraagd of de camera het kopen waard was. Het antwoord op de testpagina gaf een positieve maar gebalanceerde beoordeling, waarbij de nadruk werd gelegd op een aantal functies die kopers misschien niet leuk zouden vinden. Wanneer de verborgen tekst echter instructies bevatte voor ChatGPT om een positieve beoordeling terug te sturen, was de respons altijd volledig positief, zelfs wanneer de pagina negatieve beoordelingen had.

OpenAI, de ontwikkelaar van ChatGPT, gaf geen commentaar op het incident, maar zei dat het verschillende methodes gebruikt om kwaadaardige websites te blokkeren en voortdurend verbetert.

Bron: The Guardian