Australië roept op tot strengere regulering van AI nadat artsen ChatGPT gebruiken om medische dossiers te schrijven
De Australian Medical Association (AMA) heeft opgeroepen tot strenge regels en transparantie bij het gebruik van kunstmatige intelligentie in de gezondheidszorg nadat artsen in ziekenhuizen in Perth ChatGPT begonnen te gebruiken om medische gegevens in patiëntendossiers in te voeren.
Wat we weten.
De AMA verklaarde dat Australië achterloopt op andere landen wat betreft AI-regulering. Strengere regels zijn nodig om patiënten en zorgverleners te beschermen en om een sfeer van vertrouwen te creëren, aldus de vereniging.
In mei kregen vijf ziekenhuizen in het zuidelijke Perth Metropolitan Health Service het advies om te stoppen met het gebruik van ChatGPT voor het invullen van medische dossiers. Daarvoor bleek dat sommige medewerkers het grote spraakmodel in hun praktijk gebruikten.
De CEO van de dienst, Paul Forden, zei dat het gebruik van dergelijke systemen de vertrouwelijkheid van patiënten niet garandeert en gestopt moet worden.
Volgens de AMA zou de bescherming moeten inhouden dat artsen de uiteindelijke beslissingen nemen. Ook zou medisch personeel toestemming van de patiënt moeten krijgen voor elke behandeling of diagnose waarbij AI wordt gebruikt.
De AMA stelde dat patiëntgegevens beschermd moeten worden. Passend ethisch toezicht is nodig om ervoor te zorgen dat het systeem niet leidt tot grotere ongelijkheid in gezondheid, voegde de vereniging eraan toe.
Volgens de AMA zou Australië internationale praktijken voor het reguleren van kunstmatige intelligentie moeten overwegen, zoals de AI Act van de EU of de aanpak van de kwestie door Canada.
Bron: The Guardian.
