Los resúmenes de IA de Google tropiezan con consejos peligrosos

El 24 de mayo de 2024, los nuevos AI Overviews de Google Search circulaban en capturas con respuestas absurdas o peligrosas, entre ellas sugerencias sobre pegamento en pizza y consumo de piedras. Google había lanzado la función el 14 de mayo; una verificación contemporánea de ejemplos documentó salidas observadas. No toda captura viral era auténtica, por lo que cada caso debía rastrearse por separado.

Entre los ejemplos compartidos por usuarios figura una respuesta que aconsejaba añadir pegamento no tóxico a la salsa para evitar que el queso se deslizase de una pizza. Otra sugería comer al menos una pequeña piedra al día. No son simples errores de redacción: se presentan dentro de la interfaz de Google, con el formato visual de una respuesta directa y respaldada por enlaces.

El problema no es solo una respuesta extraña

Un modelo de lenguaje no comprueba que una frase sea cierta antes de escribirla. Predice qué palabras encajan mejor a continuación basándose en enormes cantidades de texto. Eso le permite resumir, explicar y conversar con soltura, pero también puede hacer que reproduzca bromas, información falsa o consejos fuera de contexto si estos aparecen en las fuentes que recupera.

En el caso de la pizza, la recomendación parecía proceder de un comentario satírico publicado años atrás en Reddit. El sistema no entendió que era una broma ni aplicó una barrera suficiente para impedir que un consejo alimentario de ese tipo llegase a la respuesta final.

Ese es el punto delicado de llevar modelos generativos al buscador. Una página de resultados tradicional muestra enlaces y deja al usuario comparar fuentes. Un resumen automático, en cambio, comprime esa cadena de comprobaciones en un texto breve, colocado en la parte más visible de la página y redactado con tono seguro.

La confianza que inspira Google no se transfiere automáticamente a cada frase generada por un modelo. De hecho, la propia compañía incluye avisos para que los usuarios verifiquen información importante. Sin embargo, pedir esa cautela después de situar una respuesta sintética por encima de los enlaces crea una contradicción práctica: cuanto más directa parece la respuesta, menos probable es que mucha gente abra las fuentes originales.

Una apuesta central para la nueva Búsqueda

Google presentó AI Overviews el 14 de mayo, durante su conferencia Google I/O, como parte de una transformación más amplia de su buscador. La empresa sostiene que la herramienta puede ayudar con consultas complejas que antes requerían varias búsquedas, por ejemplo al comparar productos, planificar actividades o reunir información dispersa.

La ambición es comprensible. Google compite con asistentes como ChatGPT, de OpenAI, y con los chatbots integrados por Microsoft en Bing y Windows. Todos persiguen la misma promesa: que el usuario formule una pregunta completa y reciba una respuesta elaborada, no una lista de enlaces.

Pero la búsqueda tiene una exigencia distinta a la de un chatbot creativo. Para una consulta sobre salud, alimentación, seguridad o asuntos públicos, una invención convincente puede ser más dañina que una respuesta incompleta. El problema no se limita a que el modelo se equivoque; también importa que no distinga adecuadamente entre una fuente fiable, un foro, una parodia y un contenido diseñado para atraer visitas.

Google ha defendido que los ejemplos difundidos representan consultas poco frecuentes y que la mayoría de los resúmenes ofrecen información útil. La compañía también ha empezado a limitar la aparición de AI Overviews en algunas búsquedas problemáticas. Aun así, la rapidez con la que han circulado estos casos revela que las pruebas previas no anticiparon bien cómo interactuaría la función con la variedad, el humor y la baja calidad de la web abierta.

Verificar antes de seguir un consejo

El episodio no significa que los resúmenes automáticos carezcan de utilidad. Pueden ahorrar pasos en tareas sencillas, especialmente cuando enlazan con fuentes claras y el usuario necesita una orientación inicial. Pero no deben tratarse como una autoridad independiente.

Para recomendaciones que afecten a la salud, la alimentación, el dinero o la seguridad, conviene abrir los enlaces, comprobar quién publica la información y recurrir a organismos especializados o profesionales cuando sea necesario. Es una precaución que ya era recomendable en internet, pero gana importancia cuando una respuesta errónea aparece envuelta en la autoridad de la página de Google.

Para Google, el reto inmediato será demostrar que puede aumentar la utilidad de AI Overviews sin convertir la búsqueda en un altavoz de respuestas plausibles, pero falsas. La calidad de esta función no se medirá por lo natural que suene, sino por su capacidad de reconocer cuándo no debe responder.

Buscar y generar tienen fallos distintos

Un buscador recupera documentos y un modelo redacta una respuesta. El sistema puede elegir una fuente satírica, perder el contexto o combinar fragmentos incompatibles aunque cada enlace exista. La cita al final no basta: debe sostener la frase concreta y permitir que el lector vea autor, fecha y finalidad.

Las consultas raras son una prueba valiosa porque revelan qué hace el sistema cuando hay pocos datos. La conducta segura puede ser mostrar resultados convencionales, pedir aclaración o abstenerse. Generar una respuesta fluida para toda pregunta convierte la ausencia de evidencia en una invitación a improvisar.

Cómo verificar una captura viral

Se conserva consulta exacta, hora, región, cuenta, captura completa y enlaces mostrados. Después se intenta reproducir sin asumir que la salida será estable. Si no se reproduce, se informa como resultado observado por otra fuente o como captura no confirmada; no se mezclan ejemplos auténticos y falsos en una lista.

En salud, seguridad o finanzas se exige una política más estricta: fuente primaria, lenguaje de incertidumbre y acceso directo. Una respuesta que recomienda una acción necesita un umbral superior a una curiosidad. El diseño puede reducir activación en esas categorías en lugar de confiar solo en el modelo.

La evaluación pública debe publicar tasa y gravedad, no únicamente anécdotas. Una salida absurda puede ser rara y aun así peligrosa; millones de consultas convierten tasas pequeñas en casos reales. Se separan exactitud, cobertura, calidad de fuente y daño potencial.

La capacidad transferible es descomponer una respuesta de IA en consulta, fuentes recuperadas, síntesis y evidencia. Esa cadena permite verificar cada afirmación y decidir cuándo el resumen ahorra trabajo y cuándo es más seguro abrir los enlaces.

La interfaz debe mostrar el camino a la fuente

Una síntesis puede ahorrar pasos si cada afirmación importante enlaza el documento exacto y si el resultado convencional sigue accesible. Ocultar enlaces detrás de una respuesta obliga a confiar. El diseño responsable facilita abrir, comparar y volver a buscar.

Los equipos mantienen un conjunto de consultas adversarias y cotidianas. Las primeras prueban límites; las segundas detectan regresiones en el servicio principal. Corregir una anécdota mediante una regla manual no demuestra que el patrón haya desaparecido.

También se vigila a quién perjudica el error. Una receta absurda puede ser visible para todos; una respuesta incorrecta sobre una comunidad o lengua pequeña puede pasar inadvertida. Muestrear idiomas y temas con expertos reduce ese punto ciego.

Cuando el sistema cambia, se publica qué clase de fallo se abordó y qué sigue abierto. La explicación no necesita revelar defensas explotables, pero sí permite que investigadores repitan pruebas y que lectores calibren confianza.

El usuario también necesita una salida sencilla para marcar una respuesta problemática y aportar la consulta. Esa señal alimenta revisión solo si recibe categorías, prioridad y seguimiento. Un botón sin respuesta visible traslada trabajo al público sin demostrar aprendizaje.

Antes de actuar sobre una respuesta, el lector abre la fuente y busca la frase que la sostiene. Si no existe, la síntesis es una pista para investigar, no una base para decidir.