Apple verwijdert apps voor kunstmatige intelligentie bij naaktfoto's

Apple heeft besloten om apps die kunstmatige intelligentie gebruiken om naaktfoto's te maken uit de App Store te verwijderen. Deze beslissing is genomen naar aanleiding van de toegenomen bezorgdheid over de privacy en ethiek van dergelijke apps.

Dit is wat we weten

Onlangs schreven we dat Huawei in een schandaal verwikkeld was geraakt toen een app op haar nieuwe Pura 70 vlaggenschepen het mogelijk maakte om kleding van meisjes te verwijderen met behulp van AI. Nu bevindt Apple zich in een vergelijkbare situatie. Het bedrijf heeft naar verluidt drie apps uit de App Store verwijderd die zichzelf adverteerden als "kunstgenerators", maar zichzelf promootten op Instagram en sites voor volwassenen en beweerden dat ze "elk meisje gratis konden uitkleden". Sommige van deze apps boden een AI-functie voor "uitkleden", terwijl andere apps gezichtsverwisselingen uitvoerden op afbeeldingen van volwassenen. Hoewel de beelden niet de werkelijke naaktheid van het meisje laten zien, kan de app beelden genereren die gebruikt kunnen worden voor intimidatie, chantage en inbreuk op de privacy.

404 Media meldt dat Apple de apps pas heeft verwijderd nadat het de links naar de apps en hun advertenties had ontvangen. Daarvoor was het bedrijf niet in staat om dergelijke apps te vinden. Hoewel er berichten zijn dat de apps al vanaf 2022 beschikbaar waren en reclame maakten voor de "uitkleed"-functie op sites voor volwassenen. Naar verluidt zouden deze apps in de App Store kunnen blijven als ze de advertenties op 18+ sites verwijderen.

Dit incident komt op een slecht moment voor Apple nu het bedrijf zich voorbereidt op de WWDC 2024 ontwikkelaarsconferentie in juni, waar het bedrijf belangrijke aankondigingen zal doen over kunstmatige intelligentie voor iOS 18 en Siri. Op dit moment heeft Apple een ijzersterke reputatie op het gebied van betrouwbaarheid nodig en deze situatie zou dat kunnen schaden.

Bron: 404 Media