Qué significa una «alucinación» de IA y cómo comprobar cada tipo de fallo

“Alucinación” es una palabra cómoda, pero puede ocultar diferencias importantes. No describe que una IA tenga una experiencia humana ni prueba que quiera engañar. En uso práctico, nombra una salida que parece útil o segura pero no está suficientemente apoyada por los hechos. Para decidir qué hacer, conviene clasificar el fallo.

Error factual

Un error factual afirma algo comprobable que es falso: una fecha, una cifra, un nombre o una propiedad. La comprobación adecuada es ir a una fuente primaria o a un registro fiable y contrastar el dato exacto. El benchmark TruthfulQA estudia respuestas falsas en preguntas diseñadas para provocar concepciones erróneas. Eso ayuda a medir una clase de veracidad; no permite inferir intención del modelo.

Cita o fuente inventada

Aquí el problema no es solo la respuesta: el modelo atribuye un enlace, autor, estudio o página que no existe o no contiene lo que afirma. La regla es simple: abra la fuente. Compruebe título, autor, fecha y el pasaje relevante. Una cita con apariencia académica no es evidencia hasta que el documento sostiene la frase concreta.

El trabajo GopherCite explica por qué las citas verificadas son solo una parte de la solución: incluso evidencia real puede no apoyar la afirmación decisiva. Por eso hay que comprobar relación, no solo existencia.

Inferencia excesiva

A veces todos los datos citados son reales, pero la conclusión va más lejos. “Esta empresa presentó un piloto” no demuestra “la tecnología ya transformó su operación”. “Un estudio observó una relación” no prueba causalidad. Pida que la respuesta separe hechos, inferencias y lo que no se sabe.

Incertidumbre reconocida

La respuesta más fiable a veces es “no puedo comprobarlo”. Reconocer un límite no es un fallo si evita inventar. La investigación de OpenAI plantea que muchos sistemas de evaluación premian adivinar y penalizan no responder. Para el usuario, una respuesta segura sin evidencia merece más cautela que una incertidumbre clara.

La rutina final es proporcional: para un dato menor, verifique la fuente; para una decisión importante, pida documentos, método, fecha y revisión humana. No se trata de desconfiar de todo texto generado. Se trata de saber qué pregunta hacer cuando una respuesta suena demasiado redonda.

Fuentes primarias: TruthfulQA, citas verificadas y OpenAI.