Apple elimina las aplicaciones de inteligencia artificial para imágenes de desnudos

Apple ha decidido retirar de su App Store las aplicaciones que utilizan inteligencia artificial para crear imágenes de desnudos. Esta decisión responde a la creciente preocupación por la privacidad y la ética de este tipo de aplicaciones.

Esto es lo que sabemos

Hace poco escribimos que Huawei se vio envuelta en un escándalo cuando una aplicación de sus nuevos buques insignia Pura 70 permitía quitar la ropa a las chicas utilizando IA. Ahora Apple se encuentra en una situación similar. Al parecer, la compañía ha eliminado tres aplicaciones de la App Store que se anunciaban como "generadores de arte", pero que se promocionaban en Instagram y páginas para adultos, afirmando que podían "desnudar a cualquier chica gratis". Algunas de estas aplicaciones ofrecían una función de "desvestido" mediante IA, mientras que otras realizaban intercambios de rostros en imágenes para adultos. Aunque las imágenes no muestran la desnudez real de la chica, la aplicación puede generar imágenes que pueden utilizarse con fines de acoso, chantaje e invasión de la intimidad.

404 Media informa de que Apple no retiró las aplicaciones hasta que se le facilitaron los enlaces a las mismas y a sus anuncios. Antes de eso, la empresa fue incapaz de localizar dichas aplicaciones. Aunque hay informes de que las aplicaciones estaban disponibles desde 2022 y ya anunciaban la función "desvestirse" en sitios para adultos. Se ha informado de que estas aplicaciones podrían permanecer en la App Store si eliminan los anuncios en sitios para mayores de 18 años.

Este incidente llega en un mal momento para Apple, ya que la compañía se prepara para celebrar en junio su conferencia para desarrolladores WWDC 2024, en la que hará importantes anuncios sobre inteligencia artificial para iOS 18 y Siri. Ahora mismo, Apple necesita una excelente reputación de fiabilidad y esta situación podría perjudicarla.

Fuente: 404 Media