Versteckter Text auf einer Website kann ChatGPT-Suchergebnisse manipulieren, zeigt eine Studie

Eine aktuelle Studie der britischen Zeitung The Guardian hat ergeben, dass die ChatGPT-Suchmaschine von OpenAI anfällig für Manipulation und Täuschung ist.

Was bekannt ist

Tests ergaben, dass versteckter Text auf Webseiten die Antworten von ChatGPT beeinflussen kann, so dass es negative Bewertungen ignoriert und ausschließlich positive Zusammenfassungen erstellt. Diese als "Rapid Injection" bezeichnete Technik kann zur Erstellung von Malware und zur Täuschung von Benutzern verwendet werden. Die Forscher fanden heraus, dass ChatGPT bösartigen Code von den gesuchten Websites zurückliefern kann, was eine ernsthafte Sicherheitsbedrohung darstellt.

In Tests erhielt ChatGPT die URL einer gefälschten Website, die als Produktseite für eine Kamera gestaltet war, und der Chatbot wurde dann gefragt, ob sich der Kauf der Kamera lohnen würde. Die Antwort auf der Testseite gab eine positive, aber ausgewogene Bewertung ab, wobei einige Funktionen hervorgehoben wurden, die Käufern nicht gefallen könnten. Wenn der versteckte Text jedoch Anweisungen für ChatGPT enthielt, eine positive Bewertung abzugeben, war die Antwort immer vollständig positiv, selbst wenn die Seite negative Bewertungen enthielt.

OpenAI, der Entwickler von ChatGPT, äußerte sich nicht zu dem Vorfall, sagte aber, dass es verschiedene Methoden zum Blockieren bösartiger Websites einsetzt und sich ständig verbessert.

Quelle: The Guardian