Porque las inteligencias artificiales interpretan mal los textos

Por qué las IA interpretan mal los textos: ambigüedad, ironía y sesgos. Soluciones prácticas con contexto glosarios RAG y verificación útil.

La explicación cabe en dos ideas claras. Primero: estos sistemas no “comprenden” como lo haría una persona; predicen palabras. Trabajan con distribuciones de probabilidad y patrones estadísticos, no con experiencias ni creencias. Por eso, cuando un texto exige contexto cultural, ironía, subtexto o referencias implícitas, la máquina acierta a veces y otras tropieza con estrépito. No es mala fe ni negligencia: es la consecuencia de un enfoque que funciona muy bien en la media, pero patina en los matices finos del lenguaje natural.

La segunda idea es operativa: se puede reducir la malinterpretación con contexto suficiente, instrucciones específicas, verificación de datos, razonamientos auditables y conexión a fuentes fiables. Ajustar el tono, definir el público, delimitar el ámbito (jurídico, médico, deportivo) y exigir comprobaciones disminuye el margen de error. No existe el “cero fallos”. El lenguaje—ambiguo por diseño—y los modelos—máquinas de correlaciones—chocan por naturaleza. Aun así, hay margen para obtener lecturas mucho más precisas.

Cómo funciona (de verdad) un modelo de lenguaje

Un modelo de lenguaje moderno aprende tras leer cantidades ingentes de texto. Convierte palabras en vectores (representaciones numéricas) y, con una arquitectura tipo Transformer, capta relaciones entre términos a distancia: quién refiere a quién, qué verbo rige qué complemento, qué tono domina en cada género. El objetivo de entrenamiento es sencillo y brutalmente eficaz: predecir el siguiente token. Si ha visto suficientes ejemplos, la continuidad suele sonar natural.

Ese “sonar natural” engaña. Porque el modelo no construye una teoría del mundo como hace una persona desde la infancia. No sabe que un contrato obliga ni que una ironía rebaja lo dicho. Sabe que “según el artículo” suele ir seguido de “X establece” y que “no está mal” aparece a menudo en reseñas moderadamente positivas. Correlaciones. De ahí que un texto perfectamente formado pueda estar equivocado en el fondo, y una respuesta impecable en estilo pueda confundir el sentido.

Los fabricantes añaden capas de alineación y instrucción: se ajusta el modelo con ejemplos de “buena conducta”, se introducen criterios de seguridad, se premian las respuestas útiles y se penalizan las dañinas. También se añaden herramientas externas—desde bases de conocimiento a buscadores—para que la IA “aterrice” sus salidas. Y funciona: la tasa de errores baja, la coherencia sube. Pero las grietas persisten allí donde el lenguaje pide algo que no es estadística, sino pragmática, inferencia social o experiencia situada.

Un detalle clave: el modelo no “lee” señales paralingüísticas. No oye un suspiro, no ve una ceja levantada, no comparte la historia entre dos interlocutores. Todo lo deduce del texto. Cuando las pistas son escasas—un titular ambiguo, un tuit críptico, una nota con jerga interna—la probabilidad manda y, con ella, los malentendidos.

Dónde se tuercen las interpretaciones

Ambigüedad y polisemia: el contexto que falta

“Banco” puede ser entidad financiera o asiento del parque. “Planta” es vegetación, piso o fábrica. “Intervenir” puede ser hablar en un debate o operar a un paciente. Las personas desambiguamos con señales del entorno: la foto de un parque, la sección de Economía, la conversación previa. El modelo solo tiene texto. Si la frase es corta, o el contexto es débil, elige la acepción más probable en sus datos. Y ahí se cuela el error.

Ejemplos de diario. “El técnico pidió la pieza a Alemania.” ¿Fútbol o industria? Sin más contexto, una IA inclinada por los deportes puede convertir una noticia industrial en una crónica. O un parte: “La planta reanuda la actividad de madrugada.” ¿Piso, unidad hospitalaria, fábrica? La polisemia exige pistas que el modelo no siempre tiene a la vista. En castellano de España, además, hay zonas de doble sentido coloquial (“coger”, “culo de mal asiento”, “tirar la casa por la ventana”) que un sistema entrenado con corpora mixtos puede interpretar de forma literal o con resonancias ajenas.

También pasa con los pronombres y las referencias encadenadas: “María llamó a Ana cuando salía de casa; le dijo que llegaría tarde.” ¿Quién salía de casa? ¿Quién llega tarde? Un humano reconstruye la escena con facilidad si conoce a las personas o el contexto; la IA, no. El resultado: atribuciones erróneas, cambios de sujeto y resúmenes que barajan responsabilidades.

Ironía, humor y pragmática: señales invisibles

La ironía no está en las palabras, sino en la intención. “Magnífico, otra reunión a las ocho.” Sin tono de voz, sin gesto, sin historial de quejas, el modelo puede leerlo como aprobación. El sarcasmo suave (“sí, claro”) engaña más. El humor dispara aún más el riesgo: las bromas dependen de referencias culturales, ritmo, dobles sentidos. Si la IA no comparte esas claves, interpreta al pie de la letra o pierde el guiño. Y cuando el texto busca ser punzante (“qué campeón, llegó media hora tarde y sin disculparse”), un sistema mal calibrado puede blanquear la crítica y trasladar una idea contraria a la original.

La pragmática—lo que se quiere decir realmente—complica el panorama. “No es el mejor día para hablar de subidas” puede ser un aviso político, una gestión de expectativas o una negativa educada. El sistema, si no reconoce el registro, lo convierte en un dato neutro o, peor, en un sí condicional.

Sesgos, jerga y desajuste de dominio

Los modelos heredan los sesgos de sus datos. Si la mayor parte del material sobre tecnología sanitaria procede de folletos comerciales, tenderá a interpretar un parte clínico con entusiasmo de marketing. Si la jerga jurídica de España está infrarrepresentada frente a material latinoamericano o anglosajón traducido, puede confundir “providencia”, “auto”, “recurso de reposición” y “recurso de apelación”. Lo mismo en economía: “prima de riesgo”, “colchón de capital”, “cédulas hipotecarias” y “ratio de solvencia” no se usan igual en todas partes.

El desajuste de dominio añade ruido. Un sistema que ha visto millones de reseñas de restaurantes y relativamente pocos dictámenes periciales tiende a calcar giros de opinión al sintetizar un informe técnico. Y al revés: puede convertir la reseña de una taberna en un párrafo con solemnidad de BOE. Nada “grave” en estilo, sí en sentido.

Nombres propios y marcas no se libran. Cuando aparecen apellidos similares o compañías con acrónimos casi idénticos, el modelo tiende a mezclar fichas, atribuyendo cifras, frases o decisiones a la entidad equivocada. Es una confusión peligrosa si afecta a responsables, autoridades, equipos médicos o empresas en contexto informativo.

Memoria limitada, coherencias frágiles y falsas certezas

Por muy grande que sea la ventana de contexto, la memoria de trabajo del modelo no es perfecta. En documentos largos, puede perder un hilo introducido al principio y reescribirlo con una variante verosímil al final. Pasa a menudo con nombres, fechas, cantidades y negaciones: “no se administró medicación” convertido en “se administró medicación”, o viceversa, tras varios párrafos. La coherencia global es una ilusión estadística: si no se protege explícitamente, el modelo rellena huecos con lo que cree más probable, aunque contradiga el propio texto.

A esa fragilidad se suma la alucinación: el impulso de completar con aparente seguridad lo que no sabe. Un nombre de ponente desconocido se fabrica a partir de ponentes habituales; una cifra se aproxima al rango más visto; una referencia legal “suena bien”, pero no existe. Lo preocupante es el tono de certeza: frases redondas, seguridad impostada. Sin verificación, cuela.

Lo que hoy sí evita cambios de sentido

La experiencia acumulada en equipos de datos, redacciones y consultorías ha cristalizado en un puñado de prácticas que, sin magia, funcionan. No son recetas teóricas: reducen malinterpretaciones en producción.

La primera es la definición estricta de tarea y dominio. Si se pide un resumen, que sea del tipo exacto: extractivo o abstractivo, con número de palabras y foco concreto (responsables, decisiones, cifras, consecuencias). Si se solicita una reescritura, explicitar registro (técnico, divulgativo), variante de español (España), público profesional (jurídico, clínico, financiero) y propósito (nota interna, comunicado, informe). Cada grado de precisión recorta el espacio de la probabilidad ciega.

Segundo, el contexto canónico. No basta con “ten en cuenta el documento adjunto”. Hay que incrustar—literalmente—las partes clave: definiciones, glosarios, acrónimos, nombres completos, títulos de cargo, relaciones jerárquicas. Si en un hospital “UCI” y “REA” no son intercambiables, conviene fijarlo en el prompt. Si un ministerio cambió el nombre de una secretaría, hay que decírselo. La IA no adivina organigramas.

Tercero, la verificación de hechos. Conectar el modelo a fuentes estructuradas y delimitar qué puede y qué no puede inventar reduce alucinaciones. Los flujos de RAG (búsqueda y recuperación antes de generar) han demostrado ser eficaces cuando los documentos de referencia están limpios y actualizados. En síntesis: si la respuesta no encuentra soporte explícito, debe abstenerse o marcarlo como no verificado.

Cuarto, la desambiguación programada. Instrucciones del tipo “si hay ambigüedad, mantén las dos hipótesis y señálalas” evitan decisiones erróneas. También funciona exigir justificaciones cortas: “expón, en dos frases, por qué eliges ‘banco’ como entidad financiera y no como asiento”. La explicación obliga al modelo a mirar el contexto y, si falta, a advertirlo.

Quinto, la gestión del tono y la ironía. Cuando el corpus contiene humor o sarcasmo, es preferible pedir paráfrasis neutra: “convierte a lenguaje literal, sin ironía”. En noticias o informes, añadir “evita chascarrillos, marcas de ironía y exageraciones” disminuye el riesgo de que el sistema mantenga o, peor, malinterprete el guiño.

Sexto, la calibración. Ajustar umbrales de confianza, pedir rangos en vez de cifras puntuales cuando el dato no esté presente, forzar disclaimers (breves, no invasivos) si la evidencia es insuficiente. Obligar a citar el fragmento exacto del que procede una afirmación—no la URL, sino la frase—es un método sencillo para anclar el sentido.

Séptimo, la trazabilidad. Guardar prompts, respuestas y documentos de apoyo permite auditar casos erróneos y aprender de ellos. Identificar patrones—dónde se confunde más, con qué jerga, en qué estructura—guía mejoras. No todo es parametrizable, pero el historial ofrece una cartografía práctica del error.

Octavo, la supervisión humana en puntos críticos. No se trata de reescribirlo todo, sino de intervenir donde un giro mal entendido cambia el significado de una decisión, la atribución de una responsabilidad o la interpretación de una cifra. En entornos jurídico, sanitario, financiero o de administración pública, este control no es un capricho: es una obligación.

La novena palanca es el glosario vivo. Muchas malinterpretaciones nacen de siglas, jergas y usos internos. Un glosario de trabajo—propio y actualizado—reduce el ruido. Si “incidencia” en un área de TI significa “evento con impacto en usuarios” y no un “bug menor”, que quede fijado. Lo mismo con “contingencia”, “providencia” o “tutela judicial efectiva”. La IA no conoce los matices particulares de cada organización si no se los das.

Décimo, los ejemplos negativos. Enseñar al sistema lo que no debe hacer—con contraejemplos concretos—funciona mejor que admoniciones genéricas. “No interpretes ‘no está mal’ como elogio sin más señales; en este corpus suele equivaler a ‘aceptable’ o ‘pasable’.” Este tipo de regla—con ejemplos—aclara la ambigüedad.

También ayuda tratar con mimo los nombres propios y cargos. Pedir “nombres completos a la primera mención, apellidos a partir de la segunda, cargo sin abreviar, y no mezclar homónimos; si hay duda, marca ‘[por confirmar]’” reduce errores de atribución. Parece trivial; evita titulares injustos.

Por último, la higiene documental. Si el texto de partida es confuso, la IA amplifica el problema. Normalizar nombres, corregir concordancias, despejar dobles negaciones, separar cifras y unidades, añadir sujetos explícitos. Una base más limpia se interpreta mejor, por personas y por máquinas.

Un apunte técnico necesario

Hay un motivo de fondo por el que todo lo anterior ayuda: cada instrucción, cada glosario, cada evidencia anclada reduce entropía. El modelo necesita menos adivinar y más reconocer. Un ejemplo: si el prompt fija que “planta” se usará exclusivamente como “unidad de producción industrial”, la probabilidad de lecturas alternativas cae en picado. Si además se exige citar el párrafo de soporte, se disuade la invención.

No es casual que los mejores resultados lleguen cuando se combinan tres piezas: modelo capaz, documentación precisa y proceso de control. El triángulo productivo. Pretender que un sistema generalista lea entre líneas un correo con ironía interna y jerga propia, sin anclajes ni revisión, es pedirle que adivine. Y adivinar, aunque suene fluido, no es comprender.

Casos típicos donde aún fallan (y cómo se sortean)

Los titulares ambiguos siguen siendo una trampa. Solución práctica: incluir siempre una bajada de una o dos frases con los elementos inequívocos (quién, qué, dónde). Cuando la IA resume, tenderá a “congelar” la interpretación correcta. En informes técnicos, el cambio de sujeto a mitad de documento es otra mina. Pedir “sujeto explícito en cada frase síntesis” previene que el modelo asigne acciones a quien no corresponde.

Los tiempos verbales también se cruzan con frecuencia. La alternancia de pasado reciente y presente histórico—común en crónica y reportaje—desorienta a la IA, que puede trasladar al presente compromisos que eran solo planes o aspiraciones. Es útil exigir “tiempo verbal factual y homogéneo”, salvo en citas.

El lenguaje administrativo español, con su gusto por la perífrasis, multiplica el espacio para malinterpretar matices (“queda apercibido”, “procede”, “se estima”). Un pequeño diccionario interno de equivalencias prácticas—qué implica cada fórmula en términos reales—marca la diferencia entre una lectura ceremonial y una lectura jurídicamente correcta.

Y sí, el humor. La consigna “convierte a lenguaje literal, sin ironía” parece seca; protege el sentido original cuando se requiere seriedad. No todo texto necesita gracia; algunos exigen fidelidad.

Nombres y cifras: la zona de riesgo cero

En textos con responsables, instituciones y cifras, la tolerancia al error es nula. Si el documento no trae el dato, no hay dato. Instruir al sistema para que no infiera nombres ni aproxime cantidades sin fundamento es básico. Pedir “X está pendiente de confirmar” suena burocrático; es honesto. Y mucho más seguro que una cifra redonda inventada con aplomo.

Cuando aparecen homónimos, conviene “desambiguar por cargo y ubicación” en cada mención. “José Luis García, consejero de Sanidad de la comunidad X” no deja espacio a la confusión con “José Luis García, gerente del hospital Y”. Sí, ocupa caracteres. A cambio, la IA deja de mezclar fichas.

Más precisión, menos magia: el camino que ya funciona

El lenguaje es resbaladizo y así va a seguir. No hay fórmula milagrosa para que una IA “entienda” como una persona, pero hay procedimientos que ya recortan malinterpretaciones y devuelven el sentido a su sitio. La combinación de definición de tarea, contexto anclado, verificación con evidencia, desambiguación explícita y control humano en puntos críticos reduce errores medibles. Cuando además se trabaja con glosarios vivos, ejemplos negativos y reglas de estilo claras—nada barroco, solo lo necesario—las falsas certezas caen y las lecturas empiezan a alinearse con lo que el texto quiere decir y no solo con lo que “suena probable”.

No es una promesa grandilocuente, es logística editorial y técnica. Transformer o el modelo que venga después, con más parámetros o menos, seguirá necesitando señales para no perderse en los recodos del castellano. La buena noticia es que esas señales están a nuestra mano: información bien fijada, instrucciones específicas y disciplina para no dejar huecos a la invención. Lo demás—el brillo estilístico, la fluidez—ya lo pone la máquina. La precisión todavía es un trabajo compartido.