Qué es una alucinación en el contexto de la IA
El término "alucinación" en el contexto de los modelos de lenguaje se refiere a la generación de información que no es factualmente correcta pero que el modelo presenta como si lo fuera. No es un fallo de honestidad, porque el modelo no tiene intención. Es una consecuencia de su arquitectura.
Los modelos de lenguaje no acceden a una base de datos de hechos verificados. Generan texto prediciendo qué palabras deben seguir a las anteriores, basándose en patrones aprendidos durante el entrenamiento. Cuando no tienen información suficiente sobre algo, pueden generar texto que "suena correcto" pero que es inventado.
Tipos de alucinaciones frecuentes
Las alucinaciones más comunes incluyen: citas bibliográficas inventadas (el modelo puede inventar títulos, autores, años y editoriales plausibles pero inexistentes), fechas y datos históricos incorrectos, nombres de personas reales con atribuciones de acciones o declaraciones falsas, y resultados numéricos incorrectos en cálculos complejos.
Un caso especialmente problemático es el de las referencias académicas. Si pides a un modelo que cite fuentes sobre un tema, puede generar bibliografías de aspecto completamente profesional donde la mitad de los artículos no existen.
Por qué los modelos no saben que se equivocan
Los modelos de lenguaje no tienen un mecanismo de verificación interna que les permita distinguir entre lo que "saben" y lo que "inventan". Generan texto token a token y no tienen acceso a un sistema externo de validación de hechos en tiempo real (salvo que estén conectados a herramientas de búsqueda, como algunos modelos más recientes).
Esto significa que la confianza aparente del modelo no es un indicador fiable de la precisión del contenido. Un párrafo escrito con fluidez y sin vacilaciones puede ser completamente incorrecto.
Cómo verificar outputs de forma práctica
Para información factual que vayas a usar en un contexto relevante, aplica siempre verificación externa. Busca las afirmaciones concretas en fuentes primarias: webs oficiales, publicaciones académicas, medios de referencia.
Cuando pidas referencias bibliográficas, verifica la existencia de cada una antes de citarla. Busca el título exacto, comprueba que el autor existe y que publicó ese trabajo. Puede parecer tedioso, pero es la única forma de usar citas generadas por IA con seguridad.
Para datos numéricos y cálculos, verifica el resultado con una calculadora o herramienta de cálculo independiente. Los modelos de lenguaje no son calculadoras: cometen errores aritméticos con relativa frecuencia, especialmente en operaciones de varios pasos.
Cuándo confiar más y cuándo menos
Los modelos cometen menos errores cuando trabajan con tareas de transformación de texto (resumir, reescribir, traducir) que cuando trabajan con tareas de recuperación de hechos específicos. Si le pides a un modelo que mejore el estilo de un párrafo que tú has escrito, el riesgo de alucinación es bajo. Si le pides que te cite la legislación vigente sobre un tema, el riesgo es alto.
Como regla práctica: cuanto más específico y verificable es el dato que buscas, más importante es verificarlo de forma independiente.