Mientras se espera que la WWDC 2024 de Apple se centre en muchas características enfocadas en la inteligencia artificial, Google nos dio un vistazo de lo que no se debe hacer la semana pasada.
La empresa, cuyo motor de búsqueda se actualiza rutinariamente algorítmicamente para agregar nuevas funciones que ajustan las clasificaciones, lanzó su función de Resúmenes de AI para resumir las respuestas a la consulta de un usuario.
Con el AI aparentemente incapaz de discernir entre consejos médicos genuinos y sátira, sin embargo, el proceso salió más que un poco mal, sugiriendo famosamente a los usuarios que usen pegamento para que el queso se adhiera a la pizza o coman piedras para mantener un estilo de vida saludable.
En una entrada de blog esta semana de Liz Reid, VP y Jefa de Búsqueda de Google, la empresa reflexionó sobre un lanzamiento desafiante.
(Crédito de la imagen: Brett Jordan)
Google discute el lanzamiento de Resúmenes de AI
Aunque la entrada sugiere que hay algunos “capturas de pantalla falsas”, Reid señala que los Resúmenes de AI fueron mayoritariamente descubiertos por “consultas que las personas no suelen hacer comúnmente”.
“Una área que identificamos fue nuestra capacidad para interpretar consultas sin sentido y contenido satírico”, dice, señalando la consulta “¿cuántas piedras debo comer” que se volvió viral.
“No hay mucho contenido web que considere seriamente esa pregunta, tampoco. Esto es lo que a menudo se llama un “vacío de datos” o “brecha de información”, donde hay una cantidad limitada de contenido de alta calidad sobre un tema”, explica Reid.
“Sin embargo, en este caso, hay contenido satírico sobre este tema… que también fue republicado en el sitio web de un proveedor de software geológico. Así que cuando alguien puso esa pregunta en Búsqueda, apareció un Resumen de AI que enlazaba fielmente a uno de los únicos sitios web que abordaban la pregunta.”
Google promete que se han realizado mejoras
Según la entrada, Google ha actualizado su tecnología con “mecanismos de detección mejorados para consultas sin sentido que no deberían mostrar un Resumen de AI, y limitó la inclusión de contenido satírico y humorístico” al mismo tiempo que se alejaba del contenido generado por el usuario que podría considerarse engañoso.
“Hemos añadido restricciones de activación para consultas donde los Resúmenes de AI no estaban demostrando ser tan útiles”, agrega Reid, señalando también “refinamientos adicionales de activación para mejorar nuestras protecciones de calidad” cuando se trata de contenido relacionado con la salud y las noticias.
Está claro que los Resúmenes de AI de Google necesitan un cambio significativo para llevarlo al nivel adecuado, de lo contrario, podría unirse al cementerio de productos de Google. También preocupa que al mostrar contenido sin dirigir clics a sitios web, Google termine canibalizando los sitios a los que los usuarios van.
More from iMore