Qué es una alucinación
Los modelos de lenguaje no consultan una base de datos de hechos: predicen el texto más probable. Cuando no tienen la información, a veces «rellenan el hueco» con algo que suena plausible. El problema es que lo dicen con el mismo tono que cuando aciertan, así que es difícil detectarlo sin comprobar.
Por qué pasa
- Falta de información: el dato no estaba en su entrenamiento o es posterior.
- Presión por responder: están entrenados para ser útiles y tienden a contestar algo.
- Preguntas ambiguas o con premisas falsas: si preguntas por algo que no existe, puede inventarlo.
- Datos muy específicos: cifras, fechas, nombres y citas exactas son terreno de riesgo.
Ejemplo real
Un abogado pide a una IA jurisprudencia para un caso y recibe sentencias con números y fechas perfectamente formateados. Al comprobarlas, varias no existen. Ha ocurrido en tribunales reales y ha terminado en sanciones para los profesionales que no las verificaron.
Para qué te sirve en tu negocio
Saber que existen es la mejor defensa. Verifica siempre datos, cifras, citas y fuentes antes de publicar o decidir. Para usos de negocio, reduce el riesgo dando a la IA tu información (RAG), pidiéndole que cite fuentes y que diga «no lo sé» cuando no tenga datos.
Errores comunes
- Publicar estadísticas generadas por IA sin comprobar la fuente.
- Pensar que los modelos más nuevos ya no alucinan: lo hacen menos, pero lo hacen.
- Usar la IA como buscador de hechos sin activar la búsqueda web.
Preguntas frecuentes
¿Se pueden eliminar las alucinaciones?
No del todo. Se reducen con RAG, búsqueda web, buenos prompts y verificación.
¿Por qué se llama alucinación?
Por analogía con percibir algo que no existe, aunque técnicamente el modelo no "percibe" nada.
¿Todos los modelos alucinan?
Sí, en mayor o menor medida.