Las aplicaciones de inteligencia artificial que prometían convertir imágenes normales en desnudos no están permitidas en la App Store de iPhone.
Reportadamente, Apple necesitó ser notificada de su existencia.
Apple no permite aplicaciones de IA para desnudos no consensuados en la App Store
El año 2024 se está convirtiendo en un año destacado para la inteligencia artificial. Está presente en los resultados de búsqueda de Google, en la mayoría de los productos de Microsoft, Samsung la incorporó en sus últimos teléfonos de alta gama, y el CEO de Apple, Tim Cook, prometió hacer algunos grandes anuncios relacionados con la IA próximamente, probablemente en el WWDC24 en junio.
Pero la compañía recientemente recibió un recordatorio de que la tecnología tiene tantos aspectos negativos como positivos. 404 Media informó el viernes que:
“Apple ha eliminado varias aplicaciones de generación de imágenes de IA de la App Store después de que 404 Media descubriera que estas aplicaciones promocionaban la capacidad de crear imágenes de desnudos no consensuadas, una señal de que los operadores de la tienda de aplicaciones están comenzando a actuar con mayor frecuencia contra este tipo de aplicaciones”.
Las aplicaciones eliminadas aparentemente permitían a los usuarios cargar imágenes de personas vistiendo ropa y luego utilizar la IA para convertir la imagen en un desnudo.
404 Media informa que reportó tres de estas aplicaciones a Apple y todas fueron posteriormente expulsadas de la App Store.
Es probable que estas aplicaciones violen las directrices de la App Store que establecen que “las aplicaciones no deben incluir contenido que sea ofensivo, insensible, perturbador, destinado a disgustar, de mal gusto excepcional”, que incluye “materiales abiertamente sexuales o pornográficos”.
Es poco probable que Apple necesitara un recordatorio de que la inteligencia artificial tiene aspectos negativos, los problemas reciben al menos tanta atención como los beneficios. Aun así, es algo que los desarrolladores deben tener en cuenta al trabajar en nuevas funciones de IA en iOS 18, macOS 15, etc.