Aquí tienes el lado negativo de la inteligencia artificial, amigos. Justo ayer te contábamos que el removedor de objetos de IA en el nuevo Pura 70 Ultra de Huawei podía quitar la ropa de las imágenes mientras la IA ayudaba a dar la ilusión de que estabas viendo el cuerpo desnudo del sujeto. Huawei dijo que ajustaría el algoritmo en una futura actualización. El viernes, 404 Media (vía AppleInsider) informó que Apple había eliminado tres aplicaciones de la App Store que anunciaban en Instagram y en sitios para adultos que podían usarse para “Desvestir a cualquier chica gratis”.
Estas aplicaciones fueron descritas por la App Store como “generadoras de arte”, aunque lo que realmente hicieron fue crear “imágenes de desnudos no consentidos”. Tales imágenes no muestran realmente cómo lucen estas mujeres sin ropa y dependen de la IA para crear lo que parece ser el cuerpo desnudo debajo de la ropa. Sin embargo, estas imágenes aún podrían usarse para avergonzar o humillar a las mujeres y chantajearlas.
404 Media dijo que Apple eliminó las aplicaciones, pero no antes de que le diera al gigante tecnológico enlaces a las aplicaciones y sus anuncios. El informe sugirió que Apple no podía encontrar las aplicaciones ofensivas por sí misma. Mientras que algunas de estas aplicaciones ofrecían la función de “desvestir” con IA, otras realizaban intercambios de rostros en imágenes para adultos.
Aplicaciones eliminadas de la App Store por Apple que anunciaban en Instagram y sitios para adultos su capacidad de crear contenido para adultos
Algunas de estas aplicaciones comenzaron a aparecer en la App Store ya en 2022 y parecían inocentes tanto para Apple como para Google, ya que las aplicaciones estaban listadas en la App Store y en la Play Store respectivamente. Aparentemente, desconocido para las empresas tecnológicas, los desarrolladores detrás de estas aplicaciones estaban publicitando sus capacidades de contenido para adultos en sitios para adultos. En lugar de eliminar inmediatamente estas aplicaciones, Apple y Google les permitieron permanecer en sus tiendas de aplicaciones siempre y cuando dejaran de anunciarse en sitios para adultos.
A pesar de la demanda de Apple y Google, una de las aplicaciones no dejó de anunciarse en sitios para adultos hasta este año, cuando Google eliminó la aplicación de la Play Store.
Con Apple a punto de hacer importantes anuncios de IA relacionados con iOS 18 y Siri en la WWDC en junio, la empresa ha estado tratando de mantener una imagen impecable. Esto incluye la decisión de Apple de licenciar artículos de editores para entrenar su IA generativa. Google y OpenAI han sido demandados por The New York Times por infracción de derechos de autor después de usar los artículos de la publicación para el entrenamiento de la IA sin permiso. Será interesante ver si Apple sufre alguna publicidad negativa después de esperar para eliminar estas aplicaciones.