Alucinaciones de la IA: por qué inventa datos y respuestas Lo esencial

Una inteligencia artificial puede redactar una respuesta clara, convincente y completamente falsa. Puede atribuir una cifra a un informe que nunca la publicó o citar una sentencia inexistente con apariencia de documento jurídico. Estos fallos, conocidos como alucinaciones de la IA, aparecen cuando un sistema genera contenido sin respaldo suficiente en los hechos o en el material que debía utilizar.

Ocurren porque los modelos generativos están diseñados para producir una continuación coherente a partir de lo que reciben, no para comprobar automáticamente cada afirmación frente a la realidad. Los datos de entrenamiento, las instrucciones y las herramientas de consulta pueden mejorar el resultado, pero la fluidez no garantiza la verdad. Esa diferencia explica tanto la utilidad de estos sistemas como uno de sus límites más difíciles de gestionar.

Una frase convincente puede ocultar un hecho inexistente

El ejemplo más reconocible es el de un chatbot que responde a una consulta factual con un nombre, una fecha o una cantidad inventados. No suele producir una secuencia absurda que delate el error. Al contrario: coloca el dato falso entre explicaciones plausibles, con la misma seguridad verbal que emplearía para comunicar algo correcto. La apariencia de certeza forma parte del problema, porque obliga a verificar incluso las respuestas que parecen mejor resueltas.

La invención también puede ser más sutil. Un sistema encargado de resumir un documento puede añadir un motivo que el texto original no menciona, cambiar la relación entre dos hechos o presentar como conclusión firme una posibilidad. En ese caso, el fallo no exige que toda la respuesta sea falsa. Basta con que una afirmación decisiva no esté sostenida por la información disponible o contradiga la fuente que debía respetar.

No todos los errores reciben con igual precisión el nombre de alucinación. Una respuesta sobre un dato reciente puede estar desactualizada sin haber sido inventada; un cálculo puede fallar por una operación incorrecta. En la práctica, las fronteras se mezclan, pero distinguir el tipo de error ayuda a encontrar su origen: no es lo mismo consultar información antigua que fabricar una referencia bibliográfica o alterar el contenido de un archivo aportado por el usuario.

El término procede de una comparación con la percepción humana, aunque la semejanza tiene límites. Una persona puede experimentar una percepción sin estímulo externo; un modelo genera una salida que no está debidamente fundamentada. Algunos investigadores prefieren hablar de confabulación para evitar atribuirle experiencias mentales a una máquina. Más allá del nombre, no hay motivo para suponer intención de engañar cuando el sistema produce una afirmación falsa.

El mecanismo que convierte una posibilidad en una certeza aparente

Un modelo de lenguaje aprende relaciones entre fragmentos de texto y genera su respuesta de forma secuencial. Cada nuevo fragmento depende de la petición recibida y de lo ya escrito. Este procedimiento permite explicar conceptos, traducir o sintetizar documentos con notable soltura. También permite completar un hueco con una opción verosímil aunque ninguna prueba confirme ese detalle.

Imagínese una biblioteca en la que los libros han servido para aprender cómo se redactan las fichas, pero no se está consultando necesariamente el catálogo al responder. El sistema puede reproducir la forma de una referencia académica y combinar nombres, títulos y revistas de aspecto creíble. Dominar el patrón de una cita no equivale a saber si la publicación existe. Ahí reside una diferencia decisiva entre producir lenguaje y localizar pruebas.

La explicación no se reduce a que el modelo carezca de información. Los datos con los que se entrenó pueden contener errores, contradicciones o lagunas; una pregunta ambigua puede empujarlo a escoger una interpretación equivocada. Incluso con un documento delante, puede confundir pasajes o introducir conocimiento ajeno a él. Por eso añadir más texto no resuelve automáticamente un problema que también depende de cómo se selecciona y se utiliza la información.

Existe, además, un efecto acumulativo. Si una primera frase introduce un supuesto falso, el resto de la respuesta puede desarrollarlo como si ya estuviera demostrado. Un autor ficticio recibe entonces una obra, una fecha y una explicación de su influencia. El error inicial se convierte en contexto para las frases siguientes, y la narración gana coherencia interna mientras se aleja de los hechos.

Ni siquiera una respuesta redactada con cautela tiene por qué ser correcta, del mismo modo que un tono seguro no demuestra que sea falsa. La forma verbal expresa cómo presenta el modelo su resultado, no una comprobación independiente. Seguridad y fiabilidad son cosas distintas, una separación fácil de olvidar cuando la conversación se parece a la mantenida con alguien que sí puede responder de sus conocimientos.

Del documento alterado a la referencia que nunca existió

Las invenciones no siempre proceden del desconocimiento general. A veces el dato correcto figura expresamente en el material entregado y el sistema responde otra cosa. Puede confundir una condición con una excepción o atribuir a un estudio resultados que corresponden a otro. Se trata de una pérdida de fidelidad a la fuente, especialmente relevante cuando la tarea consistía precisamente en resumirla.

En otras ocasiones, la respuesta añade un detalle que el documento no confirma ni desmiente. Si un informe describe una decisión y el resumen incorpora una supuesta razón interna que no aparece en él, el añadido puede sonar razonable sin estar acreditado. Lo plausible no se convierte en dato por encajar bien con el resto de la historia. Esa es una de las trampas más discretas de los resúmenes automáticos.

Las citas fabricadas son especialmente persuasivas porque ofrecen una apariencia de verificación. Un título, un autor y una revista pueden formar una referencia perfectamente compuesta y, aun así, no corresponder a ninguna publicación. También puede existir la obra citada, pero no contener la afirmación que se le atribuye. Por eso comprobar una referencia implica revisar su contenido, no solo confirmar que aparece en un buscador o en un catálogo.

El fenómeno cambia de aspecto fuera del texto. Un sistema que analiza imágenes puede identificar un objeto que no está presente o dar una interpretación errónea de ciertos patrones visuales. Sin embargo, aquí conviene evitar una equivalencia demasiado cómoda: algunas discrepancias se deben a señales de la imagen que el modelo trata de manera distinta a una persona. Un fallo de visión artificial necesita examinarse en su contexto, no etiquetarse sin más como una invención comparable a una sentencia ficticia.

Por qué consultar documentos reduce errores, pero no los borra

Una forma de limitar las invenciones consiste en proporcionar al sistema información concreta antes de que responda. En los modelos conectados a documentos, la herramienta localiza pasajes relacionados con la consulta y los incorpora al contexto de generación. Esta técnica, conocida como generación aumentada por recuperación, permite apoyar la respuesta en material consultable en lugar de depender únicamente de lo aprendido durante el entrenamiento.

La mejora depende de qué se recupera. Si la búsqueda encuentra una versión antigua, omite el párrafo decisivo o selecciona un texto que solo parece relacionado, el modelo puede construir una respuesta coherente sobre una base defectuosa. Incluso cuando dispone del fragmento correcto, puede interpretarlo mal. Acceder a una fuente no equivale a entenderla ni a distinguir siempre entre lo que afirma y lo que solo sugiere.

Algo parecido ocurre con la navegación por internet. La búsqueda puede aportar datos recientes que el modelo no tenía, pero también mostrar páginas inexactas o fragmentos aislados de su contexto. Una respuesta acompañada de citas resulta más fácil de auditar; no es, por ese solo motivo, más verdadera. La trazabilidad sirve cuando permite contrastar la afirmación exacta con una fuente pertinente y fiable.

Los desarrolladores pueden añadir controles que comparen la salida con documentos, limiten los temas a los que responde un sistema o lo lleven a reconocer que no dispone de información suficiente. Ajustar la variación de sus respuestas también puede hacerlas más estables. Ninguna de estas medidas constituye una garantía universal: reducir la creatividad verbal no verifica un hecho, y otro modelo utilizado como supervisor también puede equivocarse.

La dificultad se aprecia bien en preguntas sobre normas internas, precios o condiciones que cambian. Un modelo entrenado con información general no tiene por qué conocer el dato vigente de una organización concreta. Mantener los documentos actualizados y comprobar los valores importantes fuera del texto generado evita depositar en una predicción lingüística una tarea que exige un registro verificable y al día.

Las señales de alerta no sustituyen a la comprobación

Una cifra muy precisa sin procedencia clara, una referencia imposible de localizar o una explicación que salta de una premisa a una conclusión no demostrada merecen atención. También la merecen las respuestas que añaden detalles inesperados a un documento breve. Son indicios de posible invención, no pruebas definitivas: una afirmación verdadera puede sonar sorprendente y una falsa puede estar redactada con prudencia.

Repetir una pregunta puede revelar contradicciones, pero obtener dos veces la misma respuesta tampoco acredita que sea correcta. Un sistema puede reproducir de manera consistente el mismo dato equivocado. Pedirle que compruebe su propio texto ayuda a descubrir algunos fallos, aunque la autocorrección tiene límites si el modelo vuelve a apoyarse en el mismo supuesto falso o inventa una justificación nueva.

La comprobación más sólida cambia según el contenido. Una cita académica exige localizar la publicación y leer el pasaje pertinente; una cifra económica requiere contrastarla con el documento correspondiente; una explicación basada en un archivo debe sostenerse en ese archivo. El criterio común es sencillo: buscar una prueba independiente de la respuesta, en vez de pedirle al mismo sistema que garantice su exactitud.

Ese trabajo no significa desconfiar por igual de cada palabra. Un borrador de estilo, una lluvia de ideas y una afirmación sobre jurisprudencia no tienen las mismas consecuencias si fallan. La revisión debe concentrarse en los datos que sostienen una decisión o que podrían propagarse como hechos: nombres, fechas, cantidades, diagnósticos, referencias y condiciones concretas.

Cuando el error sale del chat y entra en un expediente

Durante una conversación informal, una afirmación inventada puede corregirse sin mayores efectos. El riesgo crece cuando pasa a un trabajo académico, una noticia, una respuesta a un cliente o un escrito judicial. Entonces adquiere la autoridad del documento que la reproduce. La cadena de confianza se rompe si nadie comprueba el dato antes de publicarlo o utilizarlo para actuar.

El ámbito judicial ofrece ejemplos claros. En 2023, unos abogados presentaron ante un tribunal federal de Estados Unidos precedentes que ChatGPT había inventado y recibieron una sanción de 5.000 dólares. En España, en febrero de 2026, el Tribunal Superior de Justicia de Canarias multó a un abogado por incluir 48 citas de jurisprudencia inexistentes generadas mediante inteligencia artificial. En ambos casos, el problema no fue solo la fabricación automática, sino su incorporación a escritos profesionales sin una verificación suficiente.

La misma lógica afecta a la investigación: una referencia falsa puede viajar de un borrador a otro trabajo y terminar pareciendo respaldada por una bibliografía abundante. En salud o finanzas personales, un dato incorrecto puede influir en decisiones sensibles. El peso del error depende del uso, no de lo espectacular que resulte la invención. En esos ámbitos, la valoración corresponde a profesionales y a información comprobable, no a la soltura de un chatbot.

Hay otra consecuencia menos visible. Si una respuesta falsa se copia en páginas, presentaciones y documentos, aumenta la probabilidad de que alguien la encuentre después como si fuera una confirmación externa. La repetición no transforma el origen del dato. Una falsedad difundida conserva su fragilidad, aunque aparezca rodeada de textos correctos y de un formato cada vez más convincente.

La palabra alucinación también tiene sus límites

El nombre popular del fenómeno resulta útil porque describe un resultado desconcertante: la máquina afirma algo sin una base suficiente. Pero puede inducir a pensar que ve escenas inexistentes, cree en sus respuestas o decide mentir. La metáfora no explica por sí sola el mecanismo y a veces oculta diferencias importantes entre inventar un dato, malinterpretar un documento y trabajar con información desactualizada.

También conviene desconfiar de la explicación contraria, la que atribuye cualquier fallo a una simple predicción de palabras y da el asunto por resuelto. La generación secuencial es central en estos sistemas, pero la calidad de los datos, el contexto recibido, el acceso a herramientas y los controles posteriores modifican el resultado. No existe una causa única que permita anticipar todos los errores ni una solución aislada que los suprima.

Las mejoras técnicas pueden reducir determinadas clases de invención y favorecer respuestas que reconozcan la incertidumbre. Eso no demuestra que el problema vaya a desaparecer ni que todos los modelos fallen con la misma frecuencia en cualquier tarea. Comparar resultados exige saber qué preguntas se hicieron y cómo se evaluaron. Una prueba favorable en un contexto no garantiza el mismo comportamiento ante documentos largos, información reciente o casos poco habituales.

La diferencia entre escribir bien y saber de qué se habla

La potencia de la IA generativa procede, en parte, de su capacidad para construir explicaciones legibles allí donde antes había datos dispersos o un texto difícil de abordar. El peligro nace de la misma virtud: una prosa impecable puede encubrir una prueba ausente. Cuanto mejor imita la forma de una respuesta experta, menos visibles resultan los huecos que ha rellenado por su cuenta.

Eso no convierte cada respuesta en sospechosa ni obliga a renunciar a una herramienta útil. Sí obliga a mantener separadas dos funciones: generar una explicación y acreditar sus hechos. La primera puede hacerla un modelo con gran soltura; la segunda requiere documentos pertinentes, comprobaciones y, cuando hay consecuencias importantes, responsabilidad humana sobre el resultado.

Una sentencia ficticia y un resumen que añade un matiz inexistente comparten una lección: el error más peligroso no siempre es el más llamativo. A menudo cabe en una frase pequeña, bien escrita y fácil de repetir. La cuestión decisiva deja de ser si la máquina responde con seguridad y pasa a ser qué sostiene realmente lo que afirma.