Decir con verosimilitud algo que no es cierto
Una alucinación es el fenómeno por el que un LLM dice algo que no es cierto con un texto verosímil. Son casos típicos los títulos de libros que no existen, las cifras equivocadas o las citas de palabras que nadie dijo. Como el texto es natural, al lector le cuesta darse cuenta.
La guía de Anthropic también dice que incluso los modelos de alto rendimiento pueden escribir frases que no se ajustan a los hechos o que contradicen los documentos que se les dieron. Aunque cambies de modelo, no llega a cero.
Por qué ocurre
Un LLM escribe eligiendo las palabras que probablemente siguen al texto. No escribe comprobando si lo que dice es correcto. Cuanto menos aparece un asunto en los datos de entrenamiento, más fácil es que las palabras probables se aparten de los hechos.
Un artículo de 2025 sostiene que las alucinaciones persisten porque la forma de entrenar y evaluar premia escribir una suposición antes que responder que no se sabe. Muchas evaluaciones puntúan de forma que escribir al azar da más puntos que dejar la respuesta en blanco.
Cuándo ocurre más y cómo reducirla
Ocurre con más facilidad con nombres propios, cifras, fechas, citas, hechos posteriores a la fecha de corte de los datos de entrenamiento y temas especializados con pocas fuentes. Las medidas son estas.
- Darle documentos (con RAG, hacer que lea tus documentos y responda a partir de ellos)
- Indicarle que puede decir que no sabe cuando no lo sepa
- Hacer que cite literalmente de los documentos el fundamento de la respuesta e indique la fuente
- Que una persona compruebe lo importante en los documentos originales
La guía de Anthropic dice que solo con permitirle decir que no sabe, los errores pueden reducirse mucho. En temas en los que un error tiene mucho impacto, como el derecho, la medicina o los impuestos, haz que un especialista compruebe la respuesta.