Los resúmenes de IA de Google tropiezan con consejos peligrosos

Google acaba de estrenar en Estados Unidos sus AI Overviews, los resúmenes generados por inteligencia artificial que aparecen encima de los resultados convencionales del buscador. La función prometía ahorrar tiempo sintetizando información, pero esta semana se ha hecho viral por ofrecer recomendaciones absurdas y, en algunos casos, potencialmente peligrosas.

Entre los ejemplos compartidos por usuarios figura una respuesta que aconsejaba añadir pegamento no tóxico a la salsa para evitar que el queso se deslizase de una pizza. Otra sugería comer al menos una pequeña piedra al día. No son simples errores de redacción: se presentan dentro de la interfaz de Google, con el formato visual de una respuesta directa y respaldada por enlaces.

El problema no es solo una respuesta extraña

Un modelo de lenguaje no comprueba que una frase sea cierta antes de escribirla. Predice qué palabras encajan mejor a continuación basándose en enormes cantidades de texto. Eso le permite resumir, explicar y conversar con soltura, pero también puede hacer que reproduzca bromas, información falsa o consejos fuera de contexto si estos aparecen en las fuentes que recupera.

En el caso de la pizza, la recomendación parecía proceder de un comentario satírico publicado años atrás en Reddit. El sistema no entendió que era una broma ni aplicó una barrera suficiente para impedir que un consejo alimentario de ese tipo llegase a la respuesta final.

Ese es el punto delicado de llevar modelos generativos al buscador. Una página de resultados tradicional muestra enlaces y deja al usuario comparar fuentes. Un resumen automático, en cambio, comprime esa cadena de comprobaciones en un texto breve, colocado en la parte más visible de la página y redactado con tono seguro.

La confianza que inspira Google no se transfiere automáticamente a cada frase generada por un modelo. De hecho, la propia compañía incluye avisos para que los usuarios verifiquen información importante. Sin embargo, pedir esa cautela después de situar una respuesta sintética por encima de los enlaces crea una contradicción práctica: cuanto más directa parece la respuesta, menos probable es que mucha gente abra las fuentes originales.

Una apuesta central para la nueva Búsqueda

Google presentó AI Overviews el 14 de mayo, durante su conferencia Google I/O, como parte de una transformación más amplia de su buscador. La empresa sostiene que la herramienta puede ayudar con consultas complejas que antes requerían varias búsquedas, por ejemplo al comparar productos, planificar actividades o reunir información dispersa.

La ambición es comprensible. Google compite con asistentes como ChatGPT, de OpenAI, y con los chatbots integrados por Microsoft en Bing y Windows. Todos persiguen la misma promesa: que el usuario formule una pregunta completa y reciba una respuesta elaborada, no una lista de enlaces.

Pero la búsqueda tiene una exigencia distinta a la de un chatbot creativo. Para una consulta sobre salud, alimentación, seguridad o asuntos públicos, una invención convincente puede ser más dañina que una respuesta incompleta. El problema no se limita a que el modelo se equivoque; también importa que no distinga adecuadamente entre una fuente fiable, un foro, una parodia y un contenido diseñado para atraer visitas.

Google ha defendido que los ejemplos difundidos representan consultas poco frecuentes y que la mayoría de los resúmenes ofrecen información útil. La compañía también ha empezado a limitar la aparición de AI Overviews en algunas búsquedas problemáticas. Aun así, la rapidez con la que han circulado estos casos revela que las pruebas previas no anticiparon bien cómo interactuaría la función con la variedad, el humor y la baja calidad de la web abierta.

Verificar antes de seguir un consejo

El episodio no significa que los resúmenes automáticos carezcan de utilidad. Pueden ahorrar pasos en tareas sencillas, especialmente cuando enlazan con fuentes claras y el usuario necesita una orientación inicial. Pero no deben tratarse como una autoridad independiente.

Para recomendaciones que afecten a la salud, la alimentación, el dinero o la seguridad, conviene abrir los enlaces, comprobar quién publica la información y recurrir a organismos especializados o profesionales cuando sea necesario. Es una precaución que ya era recomendable en internet, pero gana importancia cuando una respuesta errónea aparece envuelta en la autoridad de la página de Google.

Para Google, el reto inmediato será demostrar que puede aumentar la utilidad de AI Overviews sin convertir la búsqueda en un altavoz de respuestas plausibles, pero falsas. La calidad de esta función no se medirá por lo natural que suene, sino por su capacidad de reconocer cuándo no debe responder.