Die "Halluzinationen" von ChatGPT werden von den europäischen Regulierungsbehörden unter die Lupe genommen

Die gemeinnützige Datenschutzorganisation noyb (None of Your Business) hat bei der österreichischen Aufsichtsbehörde eine Beschwerde gegen OpenAI eingereicht, weil der Chatbot ChatGPT nicht in der Lage ist, die Fehlinformationen zu korrigieren, die er über echte Menschen generiert.

Was bekannt ist

In der Beschwerde im Namen eines ungenannten Beschwerdeführers wird behauptet, dass ChatGPT ein falsches Geburtsdatum über ihn angegeben hat. Als der Beschwerdeführer OpenAI aufforderte, die fehlerhaften Daten zu korrigieren, wie es die EU-Datenschutzgrundverordnung (GDPR) vorschreibt, antwortete das Unternehmen, dass es dazu technisch nicht in der Lage sei.

Laut noyb verstößt OpenAI gegen die Rechte der europäischen Bürger, wie sie in der Datenschutz-Grundverordnung (DSGVO) festgelegt sind, einschließlich des Rechts, falsche Informationen über sich selbst zu korrigieren. Die Organisation fordert die Regulierungsbehörden auf, dem Unternehmen eine Geldstrafe aufzuerlegen und das Gesetz in Zukunft durchzusetzen.

Die Neigung von generativen KI-Systemen, irreführende Daten über Menschen zu erzeugen, hat bereits die Aufmerksamkeit der EU-Aufsichtsbehörden auf sich gezogen. Im Jahr 2023 setzte die italienische Datenschutzbehörde ChatGPT aufgrund ähnlicher Vorwürfe aus.

Auch in Polen werden derzeit Beschwerden über Verstöße gegen die Datenschutzgrundverordnung geprüft. Das regulatorische Risiko für OpenAI wird durch die Einleitung mehrerer Untersuchungen in verschiedenen EU-Ländern noch erhöht.

Trotz der Behauptungen des Unternehmens, dass es die Vorschriften einhält, sind die Vertreter von noyb der Ansicht, dass die bestehenden Einschränkungen im Umgang mit personenbezogenen Daten ChatGPT in seiner derzeitigen Form nicht mit der europäischen Gesetzgebung vereinbar sind.

Quelle: TechCrunch