De "hallucinaties" van ChatGPT zullen worden onderzocht door Europese toezichthouders

Rolf van Root/Unsplash.

De non-profit privacy organisatie noyb (None of Your Business) heeft een klacht ingediend tegen OpenAI bij de Oostenrijkse toezichthouder over het onvermogen van de ChatGPT chatbot om de verkeerde informatie die het genereert over echte mensen te corrigeren.

Dit is wat we weten

De klacht namens een naamloze klager beweert dat ChatGPT een onjuiste geboortedatum over hem heeft verstrekt. Toen de klager OpenAI vroeg om de foutieve gegevens te corrigeren, zoals vereist door de EU General Data Protection Regulation (GDPR), antwoordde het bedrijf dat het technisch niet in staat was om dit te doen.

Volgens noyb schendt OpenAI de rechten van Europese burgers zoals vastgelegd in de GDPR, waaronder het recht om onjuiste informatie over zichzelf te corrigeren. De organisatie roept toezichthouders op om het bedrijf een boete op te leggen en de wet in de toekomst te handhaven.

De neiging van generatieve AI-systemen om misleidende gegevens over mensen te produceren heeft al de aandacht getrokken van toezichthoudende instanties in de EU. In 2023 schorste de Italiaanse gegevensbeschermingsautoriteit ChatGPT vanwege soortgelijke claims.

Ook in Polen worden momenteel klachten over overtredingen van de GDPR onderzocht. Het regelgevingsrisico voor OpenAI wordt vergroot door het openen van meerdere onderzoeken in verschillende EU-landen.

Ondanks de beweringen van het bedrijf dat het aan de regels voldoet, zijn de vertegenwoordigers van noyb van mening dat de bestaande beperkingen bij het omgaan met persoonlijke gegevens ChatGPT in zijn huidige vorm onverenigbaar maken met de Europese wetgeving.

Bron: TechCrunch