Midjourney vil forby generering av bilder av politikere før valget i USA

Jonathan Kemper/Unsplash

Midjourney, som har utviklet en populær bildegenerator basert på kunstig intelligens, vurderer å innføre et totalforbud mot å lage politiske bilder for å begrense spredningen av forfalskninger i forkant av det amerikanske presidentvalget.

Dette er hva vi vet

Ifølge Midjourney-sjef David Holz handler det om å blokkere bilder av politikere som Joe Biden og Donald Trump de neste 12 månedene. Brukere har tidligere laget kompromitterende bilder og memes med disse og andre profilerte personer ved hjelp av AI.

"Jeg vet at det er gøy å lage Trump-bilder - jeg lager Trump-bilder", sier Holz. "Trump er estetisk sett veldig interessant. Men det er nok bedre å la være - det er bedre å trekke seg litt tilbake i løpet av valgkampen. Vi får se."

Midjourney har allerede regler som forbyr generering av "misvisende offentlige personer" og "hendelser". Politiske forfalskninger siver imidlertid fortsatt gjennom moderatorenes forsvarsverk. Når det er sagt, vil det å forby spesifikke personas ikke løse problemet med at AI brukes til feilinformasjon generelt.

Andre IT-selskaper tar også grep for å bekjempe falskt politisk innhold. Blant annet vil ChatGPT snart begynne å merke AI-genererte bilder.

Kilde: Bloomberg