Apple ha dicho que actualizará, en lugar de pausar, una nueva función de inteligencia artificial (IA) que ha generado alertas de noticias inexactas en sus últimos iPhones. La compañía, en su primer reconocimiento de las preocupaciones, dijo el lunes que estaba trabajando en un cambio de software para “aclarar aún más” cuándo las notificaciones son resúmenes generados por el sistema de Inteligencia de Apple.
Las características de Apple Intelligence están en beta y continuamos haciendo mejoras con la ayuda de los comentarios de los usuarios. Una actualización de software en las próximas semanas aclarará aún más cuándo el texto que se muestra es un resumen proporcionado por Apple Intelligence. Alentamos a los usuarios a informar de una preocupación si ven un resumen de notificación inesperado.
La declaración utiliza la etiqueta beta que ha colocado en las características de Apple Intelligence como escudo, mientras promete agregar una etiqueta de advertencia a los resúmenes generados por la IA en el futuro. Es difícil aceptar “está en beta” como una excusa cuando las características se han lanzado en versiones de software no beta que se comercializan intensamente al público como puntos de venta del último hardware de Apple. Agregar una etiqueta de advertencia tampoco cambia el hecho de que Apple ha lanzado una función que, en su núcleo, consume información y la reemplaza con información errónea a una tasa preocupante.
Apple está lanzando estas características basadas en IA rápidamente y las está comercializando intensamente porque teme que sus competidores estén tan adelantados que sea un problema potencialmente existencial. Pero varias de estas características simplemente no cumplen con los estándares de calidad de Apple, y me preocupa que todos nos hayamos acostumbrado tanto a alucinaciones y errores de IA que estemos dispuestos a aceptarlos.
No deberíamos hacerlo. Apple está lanzando una función que con frecuencia reescribe titulares incorrectamente. Eso es un fracaso, y no debería ser desestimado como la naturaleza de las funciones del sistema operativo en la década de 2020.
¿Qué puede hacer Apple ahora? Una no disculpa y la promesa de una etiqueta de advertencia no es suficiente. La compañía debería dar a todas las aplicaciones la opción de optar por no participar en los resúmenes de IA, u ofrecer una opción de exclusión a los desarrolladores de clases específicas de aplicaciones (como aplicaciones de noticias). A continuación, probablemente debería construir vías separadas para notificaciones de contenido relacionado (un montón de correos electrónicos o mensajes de chat en un hilo) en comparación con contenido no relacionado (titulares de la BBC, descripciones de episodios de podcast) y cambiar cómo se resumen los contenidos no relacionados. Quizás un poco más adelante, las notificaciones de noticias deberían resumirse en función del texto completo del artículo de noticias, en lugar de generar un resumen de segunda mano de una historia ya resumida por un redactor de titulares humano.
El software beta contiene una promesa implícita de que el desarrollador trabajará activamente para eliminar errores y mejorar el producto antes de que se vuelva final. Agregar una etiqueta de advertencia en el ínterin es un remedio fácil, pero no aborda el problema subyacente. Apple necesita hacer mucho más trabajo aquí, y si no puede, necesita desactivar esta función hasta que pueda lanzar una versión en la que pueda respaldar.