Australia krever strengere regulering av kunstig intelligens etter at leger bruker ChatGPT til å skrive journaler

Den australske legeforeningen (AMA) har etterlyst strenge regler og åpenhet rundt bruken av kunstig intelligens i helsevesenet etter at leger på sykehus i Perth har begynt å bruke ChatGPT til å skrive inn pasientjournaler.

Hva vi vet.

Ifølge AMA ligger Australia etter andre land når det gjelder regulering av kunstig intelligens. Strengere regler er nødvendig for å beskytte pasienter og helsepersonell og for å skape en atmosfære av tillit, mener foreningen.

I mai ble fem sykehus i den sørlige delen av Perth Metropolitan Health Service anbefalt å slutte å bruke ChatGPT til å fylle ut journaler. Forut for dette hadde det vist seg at enkelte ansatte brukte den store talemodellen i sin praksis.

Tjenestens administrerende direktør, Paul Forden, sa at bruken av slike systemer ikke garanterer pasientens konfidensialitet og bør stoppes.

Ifølge AMA bør beskyttelsen omfatte at det er legene som tar de endelige beslutningene. Dessuten bør medisinsk personale innhente pasientens samtykke til behandling eller diagnostisering ved hjelp av kunstig intelligens.

AMA slår fast at pasientdata må beskyttes. Det er også nødvendig med etisk tilsyn for å sikre at systemet ikke fører til økte helseforskjeller.

Ifølge AMA bør Australia vurdere internasjonal praksis for regulering av kunstig intelligens, for eksempel EUs AI Act eller Canadas tilnærming til spørsmålet.

Kilde: The Guardian: The Guardian.