La IA hace que dudemos menos, incluso cuando se equivoca

Un asistente de IA no solo puede influir en la respuesta que damos: también parece rebajar el umbral con el que decidimos si sabemos lo suficiente para responder. Un trabajo publicado en arXiv concluye que, ante preguntas difíciles, tener acceso a una recomendación de IA reduce de forma drástica la disposición de las personas a decir «no lo sé», incluso cuando esa recomendación es incorrecta.

El efecto importa porque reconocer la incertidumbre es una habilidad básica para tomar buenas decisiones. En ámbitos como la educación, el trabajo o la búsqueda de información, responder con seguridad a una pregunta mal entendida puede ser peor que suspender el juicio y comprobar los datos.

Cinco experimentos con consejo deliberadamente erróneo

El estudio, firmado por Chiara Marcoccia, Walter Quattrociocchi y Valerio Capraro, reúne cinco experimentos con 3.132 participantes. Cuatro de ellos fueron registrados previamente —un mecanismo por el que los investigadores fijan su diseño y análisis antes de conocer los resultados— y el quinto replicó directamente uno de los ensayos.

Los participantes debían contestar preguntas difíciles, con la posibilidad permanente de no responder. La clave del diseño fue que los autores construyeron las preguntas para que el consejo ofrecido por la IA fuera erróneo. Así podían separar dos fenómenos que a menudo se confunden: el posible efecto de usar una IA y el efecto de recibir una respuesta acertada.

No se trataba, por tanto, de medir si el modelo ayudaba a encontrar la solución correcta. La prueba examinaba qué ocurre cuando una persona se enfrenta a una respuesta fluida y aparentemente útil que, en realidad, la orienta en la dirección equivocada.

Más respuestas, pero menos aciertos y más confianza

La mera disponibilidad de la IA redujo casi por completo la inclinación de los participantes a abstenerse. El resultado se mantuvo tanto cuando podían pedir activamente el consejo como cuando este aparecía directamente en pantalla.

Los participantes respondieron más preguntas, pero su proporción de aciertos se quedó aproximadamente en un tercio de la observada cuando no tenían acceso a la IA. Al mismo tiempo, su confianza casi se duplicó.

Esa combinación es especialmente relevante. El problema no es solo que una sugerencia falsa pueda inducir un error puntual, algo previsible en cualquier sistema imperfecto. El estudio apunta a un cambio en la metacognición, es decir, en la capacidad de evaluar qué sabemos, qué ignoramos y cuándo conviene no emitir un juicio.

Los asistentes conversacionales están diseñados para mantener una interacción útil y dar respuestas completas. Esa fluidez puede hacer que una recomendación parezca más sólida de lo que merece, sobre todo si el usuario no cuenta con conocimientos previos suficientes para detectar el fallo.

Los incentivos corrigen parte del efecto

Los investigadores también probaron qué sucedía al recompensar los aciertos y penalizar los errores. Con esos incentivos, los participantes buscaron y siguieron menos el consejo de la IA, acertaron más y optaron con mayor frecuencia por no responder.

Sin embargo, siguieron suspendiendo el juicio mucho menos que quienes no disponían de IA. Los incentivos mejoraron el comportamiento, pero no eliminaron el efecto de tener una respuesta automática al alcance.

La conclusión no permite trasladar sin más los porcentajes a cualquier chatbot, tarea o entorno profesional. Las preguntas fueron diseñadas expresamente para que el consejo fuese falso, y un experimento controlado no reproduce toda la complejidad de usar IA en el trabajo o en casa. Pero sí identifica un riesgo que las evaluaciones habituales de modelos suelen dejar fuera: no basta con medir cuántas respuestas son correctas; también hay que observar cómo cambia el criterio humano para pedir ayuda, verificarla o admitir incertidumbre.

A medida que las sugerencias generadas por IA se integran en buscadores, documentos, correos y sistemas de atención al cliente, ese criterio puede convertirse en una cuestión de diseño. Mostrar fuentes verificables, expresar la incertidumbre del sistema y facilitar que el usuario contraste una respuesta pueden ser medidas más útiles que presentar cada recomendación con la misma seguridad aparente.