Skjult tekst på et nettsted kan manipulere ChatGPT-søkeresultater, viser en studie

En fersk studie utført av den britiske avisen The Guardian har avslørt at OpenAIs ChatGPT-søkemotor er sårbar for manipulasjon og bedrag.

Her er hva vi vet

Tester avslørte at skjult tekst på nettsider kan påvirke ChatGPTs svar, slik at den ignorerer negative anmeldelser og utelukkende genererer positive sammendrag. Denne teknikken, kjent som "rapid injection", kan brukes til å lage skadelig programvare og lure brukere. Forskerne fant ut at ChatGPT kan returnere skadelig kode fra nettstedene den søker etter, noe som utgjør en alvorlig sikkerhetstrussel.

I tester mottok ChatGPT nettadressen til en falsk nettside som var utformet som en produktside for et kamera, og chatboten ble deretter spurt om kameraet var verdt å kjøpe. Svaret på testsiden ga en positiv, men balansert vurdering, med vekt på noen funksjoner som kjøperne kanskje ikke ville like. Men når den skjulte teksten inneholdt instruksjoner om at ChatGPT skulle gi en positiv anmeldelse, var responsen alltid utelukkende positiv, selv når siden hadde negative anmeldelser.

OpenAI, utvikleren av ChatGPT, kommenterte ikke hendelsen, men sa at de bruker ulike metoder for å blokkere ondsinnede nettsteder og stadig forbedrer seg.

Kilde: The Guardian The Guardian