Apple supprime les applications d'intelligence artificielle pour les images de nudité
Apple a décidé de retirer de son App Store les applications qui utilisent l'intelligence artificielle pour créer des images de nudité. Cette décision a été prise en réponse aux préoccupations croissantes concernant la vie privée et l'éthique de ces applications.
Ce que nous savons
Nous avons récemment écrit que Huawei avait été pris dans un scandale lorsqu'une application de ses nouveaux téléphones phares Pura 70 lui a permis de déshabiller des jeunes filles grâce à l'intelligence artificielle. Aujourd'hui, Apple se trouve dans une situation similaire. L'entreprise aurait retiré de l'App Store trois applications qui se présentaient comme des "générateurs d'art", mais qui faisaient leur propre promotion sur Instagram et sur des sites pour adultes, affirmant qu'elles pouvaient "déshabiller n'importe quelle fille gratuitement". Certaines de ces applications proposaient une fonction de "déshabillage" par l'IA, tandis que d'autres procédaient à des échanges de visages sur des images pour adultes. Bien que les images ne montrent pas la nudité réelle de la jeune fille, l'application peut générer des images qui peuvent être utilisées à des fins de harcèlement, de chantage et d'atteinte à la vie privée.
404 Media rapporte qu'Apple n'a supprimé les applications qu'après avoir reçu des liens vers les applications et leurs publicités. Auparavant, l'entreprise n'avait pas été en mesure de localiser ces applications. Selon certaines informations, ces applications étaient disponibles depuis 2022 et faisaient déjà de la publicité pour la fonction "déshabillage" sur des sites pour adultes. Il semblerait que ces applications puissent rester sur l'App Store si elles suppriment les publicités sur les sites pour adultes.
Cet incident tombe mal pour Apple, qui se prépare à tenir sa conférence des développeurs WWDC 2024 en juin, au cours de laquelle l'entreprise fera des annonces majeures en matière d'intelligence artificielle pour iOS 18 et Siri. À l'heure actuelle, Apple a besoin d'une réputation de fiabilité irréprochable et cette situation pourrait lui nuire.
Source : 404 Media 404 Media