En pocas palabras
Una alucinación es un error en el que la IA da una respuesta falsa como si fuera cierta. Se inventa datos, fechas, nombres o citas y los cuenta tan tranquila. El problema es que parece muy segura, así que es fácil creerla aunque esté equivocada.
Explicado fácil
Imagina a un compañero de clase que jamás dice «no lo sé». Le preguntes lo que le preguntes, siempre responde rapidísimo y con mucha seguridad. A veces acierta, pero otras veces se inventa la respuesta entera, y lo hace con la misma cara de convencido. Como nunca duda, no sabes cuándo fiarte.
La inteligencia artificial hace algo parecido. No es que mienta a propósito: es que está hecha para completar frases, no para saber qué es verdad. Si no tiene el dato correcto guardado, lo «rellena» con algo que suena bien. A eso lo llamamos alucinación: una respuesta inventada que parece de fiar pero no lo es.
¿Por qué importa para crear agentes de IA?
Si tu agente da consejos médicos, legales o financieros, una alucinación puede causar problemas serios. Por eso, al crear un agente, no basta con que suene listo: hay que ayudarle a no inventar. Se consigue dándole fuentes reales que pueda consultar y obligándole a apoyarse en ellas. Así pasa de «recordar de memoria» a «leer y citar», que es mucho más fiable.
Un ejemplo
Le preguntas a un modelo: «¿en qué libro aparece esta frase?». Si no lo sabe, puede inventarse un título, un autor y hasta el año, todo falso, pero escrito de forma muy convincente. La solución: conectarlo a una biblioteca real (con RAG) para que busque la frase de verdad antes de responder, y que cite de dónde la sacó. Si no la encuentra, que diga «no lo sé» en lugar de inventarlo.