¿Cómo piensa una IA? La sorpresa: ‘intuye’ más que razona

La IA no razona como tú: aprende a base de predecir y acaba “intuyendo”. Tokens, patrones, aciertos y fallos que conviene entender del todo.

¿Cómo piensa una IA? La sorpresa: ‘intuye’ más que razona

Ha ocurrido algo extraordinario y, a la vez, bastante mundano: modelos de inteligencia artificial capaces de escribir, resumir, traducir, programar o explicar conceptos complejos no lo hacen siguiendo una lista de reglas como un manual de instrucciones, sino apoyándose en una forma de acierto que recuerda a la intuición. No es un cerebro en miniatura, no es una persona digital, no “comprende” con experiencias propias; funciona como una enorme máquina de patrones que, a fuerza de entrenamiento, aprende qué viene después… y suele acertar.

El centro de la sorpresa está ahí: no razonan como un humano paso a paso de manera nativa. Su fortaleza es otra. Anticipan. Completan. Reconocen regularidades en el lenguaje y, por extensión, en trozos del mundo que el lenguaje arrastra consigo. Esa “intuición” de silicio —rápida, flexible, con un punto de prestidigitación— explica tanto sus brillantes aciertos como sus fallos más desconcertantes, esos tropiezos que parecen infantiles justo después de una respuesta deslumbrante.

El motor real: predecir la siguiente palabra (y acertar con estilo)

Lo que se ve por fuera es una conversación; por dentro, en su versión más simple, hay una tarea obsesiva: predecir el siguiente fragmento de texto. Ni más, ni menos. El modelo recibe una secuencia de palabras y calcula cuál es la continuación más probable según lo que ha aprendido. Esa continuación no sale de una biblioteca de frases guardadas, sino de un sistema que ha ajustado millones —a veces, miles de millones— de parámetros durante el entrenamiento. Son números, sí, pero organizados de un modo que termina encapsulando regularidades de la lengua: gramática, tono, giros, y también conocimiento factual con todas sus imperfecciones.

Para entenderlo sin bata blanca conviene quedarse con dos ideas. La primera: el modelo no trabaja con “palabras” como lo hace un diccionario, trabaja con tokens, piezas de palabra o combinaciones frecuentes. Por eso puede manejar nombres raros, tecnicismos, apellidos, topónimos, emoticonos o anglicismos sin que el sistema se rompa. La segunda: cuando “elige” una respuesta, en realidad está muestreando una distribución de probabilidades. Puede ir a lo seguro y sonar plano; o asumir un riesgo controlado y sonar más creativo. Ahí nace esa sensación de personalidad, cuando en realidad es un ajuste estadístico con un poco de margen.

Detrás de la mayor parte de los sistemas modernos hay una arquitectura que se convirtió en estándar: el transformer, presentado en 2017. El nombre suena a juguete, pero la idea fue decisiva porque permitió que el modelo prestara atención a partes relevantes del texto sin tener que procesarlo como una cadena lenta e interminable. El mecanismo clave se llama atención: el sistema aprende qué fragmentos del contexto importan para producir la siguiente salida. Si aparece “Madrid” y luego “capital”, el modelo “mira” hacia atrás y activa asociaciones; si aparece “no obstante”, ajusta el registro; si aparece una fecha, intenta encajarla con eventos. No “entiende” la historia como lo hace una mente humana, pero sí aprende a explotar señales del texto con una eficacia que, en muchos casos, engaña a la intuición humana.

En el entrenamiento, el modelo ve una cantidad gigantesca de texto: noticias, libros, foros, documentos técnicos, páginas web, guiones, explicaciones, discusiones. No se queda con una copia literal de todo, aunque puede memorizar fragmentos si se le entrena mal o si el material se repite mucho. Lo que aprende, sobre todo, es una compresión: patrones de cómo se habla, cómo se escribe, cómo se argumenta, cómo se explica una receta, cómo se responde un examen, cómo se redacta un contrato. Si el mundo se describe con palabras, el modelo recoge migas de ese mundo, como quien aprende una ciudad por las conversaciones que escucha en el metro.

Esa es la razón por la que, cuando se le pide algo aparentemente sencillo, puede responder con soltura: redacta una nota, resume un informe, cambia de idioma, adapta un texto a un tono. Se mueve cómodo en terreno lingüístico. Y cuando se le pide algo que requiere pasos deliberados —calcular con precisión, verificar una cifra, sostener una cadena lógica larga sin resbalar— se nota el origen: su habilidad no nació como calculadora, nació como predictor de continuaciones plausibles.

De dónde sale la ‘intuición’: escala, datos y aprendizaje a lo bruto

Durante años se buscó una inteligencia artificial “a la humana”, con reglas explícitas y sentido común incorporado. Al final, lo que ha dominado es un enfoque más crudo: darle muchos datos, mucho cómputo y un objetivo sencillo, y dejar que el sistema se ajuste solo. En ese cambio hay una pequeña humillación para el romanticismo tecnológico. Rich Sutton lo resumió con su famosa “lección amarga”: lo que acaba imponiéndose, una y otra vez, son métodos generales que escalan con computación, no los trucos artesanales que intentan incrustar conocimiento humano a mano.

Ese aprendizaje masivo produce un efecto que se ha convertido en palabra de moda: habilidades emergentes. El modelo no recibe una instrucción “aprende a traducir”, pero al ver millones de ejemplos de frases en distintos idiomas y sus continuaciones plausibles, empieza a traducir. No recibe “aprende a programar”, pero al ver código, documentación y errores, termina escribiendo funciones. No recibe “aprende a explicar un concepto”, pero al absorber miles de explicaciones, aprende la música interna de una buena explicación. El resultado parece magia porque nadie lo programó línea a línea. Pero no hay brujería; hay estadística a escala industrial.

Lo inquietante, y aquí entra la idea de intuición, es que ese aprendizaje produce respuestas con olfato. Un humano con experiencia en su campo a veces “ve” la solución antes de justificarla. El modelo hace algo parecido: propone una salida que encaja en el patrón, incluso si luego, al pedirle que la explique, se inventa una justificación débil o directamente falsa. La intuición humana está alimentada por vida, memoria, emociones, consecuencias; la del modelo está alimentada por correlaciones. Desde fuera, se parecen. Por dentro, no se tocan.

Hay ejemplos que retratan bien el fenómeno. Pídele que complete una frase con información implícita: “Tras morir el perro, Jen no salió de casa en días, así que sus amigos decidieron…”. La continuación natural exige una mínima teoría de la mente: consolar, visitar, acompañar, mandar un mensaje. El modelo suele acertar porque en el lenguaje hay una estadística emocional: ciertas situaciones se asocian a ciertas reacciones. O prueba con una analogía técnica bien planteada: “Si un transformador eléctrico eleva tensión, entonces…”. El modelo sigue el hilo porque ha visto miles de explicaciones similares y ha interiorizado el patrón argumental. No ha vivido un duelo ni ha tocado un transformador, pero ha visto cómo se cuentan esas cosas.

En ese contexto se entiende un fenómeno clave de los modelos grandes: el aprendizaje en contexto. Con pocos ejemplos dentro de la conversación, sin reentrenar el sistema, el modelo capta una regla y la aplica. Es como si, durante unas líneas, se “reconfigurara” para adaptarse. No cambia sus pesos de forma permanente, pero ajusta su comportamiento con el material inmediato, como un actor que entra en el tono de la escena. Esa capacidad es una de las razones por las que la experiencia de uso resulta tan convincente: se siente como interacción real, cuando en realidad es un sistema afinando probabilidades con el guion que le estás dando.

Cuando parece razonar: cadenas internas, verificación y modelos más “lentos”

A medida que estos sistemas se han popularizado, se ha vuelto evidente una limitación: pueden sonar seguros y estar equivocados. Esa combinación es explosiva. La respuesta de la industria ha sido doble. Por un lado, entrenar modelos para que sigan instrucciones, sean útiles, eviten salidas peligrosas o tóxicas: lo que se llama alineamiento, a menudo con aprendizaje por refuerzo a partir de preferencias humanas. Por otro, empujar modelos que aparentan un modo de pensar más deliberado: los llamados modelos razonadores, que tienden a “trabajar” antes de contestar.

Aquí conviene ser exactos con las palabras. No es que de repente tengan conciencia lógica. Es que se les incentiva a producir pasos intermedios, a comprobar, a no lanzarse a la primera. En tareas como matemáticas, lógica o programación, ese comportamiento marca una diferencia. Un ejemplo típico: un problema de enunciado con trampas, donde la primera intuición falla. El modelo “rápido” responde con soltura y se equivoca; el modelo “lento” revisa, detecta la trampa y corrige. La sensación desde fuera es que uno “piensa” y el otro “habla por hablar”. En realidad ambos siguen siendo predictores, pero con hábitos distintos entrenados.

En este campo se ha vuelto común un enfoque híbrido: combinar el lenguaje con herramientas externas. Un modelo puede escribir una respuesta, pero cuando llega una operación delicada se apoya en una calculadora, consulta una base de datos, ejecuta código, recupera un documento. Eso reduce errores en tareas verificables. Se parece a cómo trabaja un profesional: no confía en la memoria para todo, usa instrumentos. La IA, cuando se integra así, deja de ser un oráculo y se convierte en un sistema de trabajo. Y cambia el tipo de confianza que merece.

También se ha visto un fenómeno curioso: si se le pide que explique su razonamiento, a veces mejora; otras veces fabrica un razonamiento bonito para sostener una respuesta que ya había elegido. Ese es uno de los puntos donde la metáfora de la “intuición” es más peligrosa. En humanos, explicar una intuición puede desenmascararla; en modelos, la explicación puede ser otro texto plausible. No siempre hay una conexión fiel entre lo que “hizo” por dentro y lo que cuenta por fuera. De ahí que en laboratorios se distinga cada vez más entre exactitud y racionalización.

Este empuje hacia el razonamiento ha traído otra consecuencia: el valor del tiempo de cómputo en inferencia, es decir, durante la respuesta. Antes lo caro estaba en entrenar; ahora también se gasta en “pensar” más. La IA deja de ser solo un disparo rápido y se parece a un motor que puede acelerar o frenar según la tarea. En aplicaciones críticas, ese freno importa.

El talón de Aquiles: alucinaciones, sesgos y errores que desconciertan

Hay una palabra que se ha instalado en el vocabulario general: alucinación. Suena a psiquiatría, pero en IA significa otra cosa: el modelo genera una afirmación falsa con tono convincente. Puede inventar un dato, atribuir una cita a alguien que no la dijo, mezclar fechas, crear un estudio inexistente, confundir nombres. No lo hace para engañar; lo hace porque su objetivo es producir una continuación plausible, y la plausibilidad no es lo mismo que la verdad. Si no tiene una señal fuerte que lo ancle, rellena el hueco como quien completa una frase a oscuras.

Este problema se agrava en situaciones concretas. Una: cuando la pregunta empuja a respuestas específicas, tipo “¿cuál es la cifra exacta?”, “¿qué dijo tal persona en tal fecha?”. Dos: cuando el usuario formula la pregunta con una premisa falsa y el modelo, en vez de discutirla, la acepta para seguir el juego. Tres: cuando el tema es poco frecuente en los datos o está lleno de homónimos y ambigüedades. Cuatro: cuando la conversación ha ido creando un contexto sesgado y el modelo, obediente, se adapta al sesgo.

Luego están los errores tontos, que irritan precisamente porque llegan después de una respuesta brillante. Contar letras en una palabra, mantener coherencia en una lista larga, no contradecirse al retomar un hilo, hacer una operación con llevadas, entender instrucciones muy precisas con excepciones. Esos fallos encajan con la naturaleza del sistema: si trabaja con tokens y patrones, el conteo exacto no es su especialidad; si su prioridad es sonar natural, puede preferir una frase fluida a una frase verdadera cuando le falta información; si no tiene memoria persistente, puede perder detalles de contexto y rearmar la historia sobre la marcha.

El sesgo también está ahí, inevitable. Un modelo aprende del texto humano, y el texto humano contiene prejuicios, asimetrías, invisibilizaciones, errores repetidos. En algunos casos el alineamiento reduce las salidas más dañinas; en otros, las oculta sin resolver el fondo. Por eso, en entornos profesionales serios, se insiste en pruebas sistemáticas: no basta con “parece que funciona”, hay que medir dónde falla, con qué perfiles, en qué idioma, con qué registros. El castellano de España, por ejemplo, no siempre se comporta igual que el español general: hay modismos, ironías, dobles sentidos, y el modelo puede reaccionar distinto según la mezcla de datos que haya visto.

Un punto especialmente sensible es la autoridad aparente. Un texto bien escrito se lee como competente. Y la IA escribe bien, a veces demasiado bien. Eso hace que el error sea más peligroso: no viene con señales de alarma. De ahí que se haya extendido una práctica en redacciones, despachos y equipos técnicos: tratar a la IA como un primer borrador o como una ayuda de exploración, nunca como una fuente final sin verificación. No es moralina, es autoprotección.

Abrir la caja negra: qué se sabe (y qué no) del interior

Aunque se hable de “caja negra”, no todo es oscuridad. Hay una línea de investigación creciente que intenta entender qué representaciones internas construyen los modelos, qué “circuitos” aparecen cuando resuelven ciertas tareas, cómo se activan patrones para negación, para sintaxis, para hechos concretos, para estilos. Esa disciplina, la interpretabilidad, busca responder una pregunta incómoda: si un sistema va a influir en decisiones reales, ¿cómo se audita su comportamiento?

El problema es que auditar un modelo gigantesco no se parece a inspeccionar un motor. No hay un tornillo “ética” y un cable “verdad”. Hay millones de interacciones entre parámetros. Aun así, se han identificado fenómenos útiles: neuronas o subcomponentes que se correlacionan con ciertas funciones, mecanismos de atención que conectan pronombres con referentes, representaciones que agrupan conceptos similares. Se avanza, pero no al ritmo al que avanza el despliegue comercial. Esa asimetría explica parte del nerviosismo social.

En paralelo está la seguridad. Los modelos se someten a pruebas de estrés: intentos de saltarse barreras, de inducir respuestas prohibidas, de extraer datos, de manipular. En internet se han popularizado los “jailbreaks”, formas de persuadir al modelo para que ignore restricciones. Y el juego del gato y el ratón es constante: se corrige un patrón de ataque, aparece otro. Este terreno importa porque los modelos no solo responden; cada vez más actúan: ejecutan tareas, llaman a herramientas, generan contenido que puede propagarse.

También está el debate de la memoria. Mucha gente confunde que el modelo “recuerde” el hilo de una conversación con tener memoria como una persona. Lo que tiene es contexto: una ventana de texto que se le pasa y que usa para predecir. Si el contexto se corta, el modelo no “recuerda”. Algunas implementaciones añaden memoria externa, resúmenes, perfiles, bases de datos. Y ahí aparece otro reto: si se le da memoria persistente, la privacidad se vuelve crítica. Si no se le da, se pierde coherencia. No hay solución mágica; hay decisiones de diseño y, en Europa, un marco regulatorio que empuja hacia más control.

España y Europa: el debate deja de ser teórico

En Europa la IA se ha convertido en una cuestión regulatoria y económica a la vez. Bruselas ha empujado un marco que intenta clasificar sistemas según riesgo, imponer obligaciones en casos sensibles y exigir transparencia en usos concretos. El debate ya no es solo “si la IA puede pensar”, sino qué ocurre cuando un modelo redacta textos que se publican, cuando ayuda a filtrar candidatos, cuando entra en atención al cliente, cuando se usa en educación, cuando interviene en procesos administrativos.

En España el despliegue se nota en dos capas. La visible es la cotidiana: asistentes en servicios, herramientas de escritura, traducción automática mejorada, resúmenes de documentos, chatbots en webs, propuestas de texto en correo, funciones nuevas en móviles. La menos visible es la de empresas y administración: automatización de tareas documentales, clasificación de incidencias, apoyo a programación, generación de borradores de informes, análisis de grandes volúmenes de texto. En ambos casos se repite el mismo patrón: la IA brilla donde hay lenguaje y se vuelve problemática donde la verdad depende de una verificación externa.

En las redacciones, por ejemplo, la IA se usa como ayuda para titular alternativas, resumir transcripciones, proponer enfoques, traducir rápidamente, detectar inconsistencias. Y se vigila como un halcón cuando toca datos: cifras, fechas, atribuciones. El valor está en acelerar la parte mecánica sin perder el control editorial. Cuando se deja sola, aparecen los fantasmas conocidos: nombres mal escritos, mezclas de personajes, citas apócrifas. La IA es rápida; la verdad tiene otro ritmo.

En educación el debate es aún más visceral. No porque la IA sea “mala”, sino porque cambia el equilibrio entre esfuerzo y resultado. Un estudiante puede producir un texto correcto en segundos, y el reto se desplaza: evaluar pensamiento, no solo producto. A la vez, la IA puede servir como tutor paciente, explicando de mil formas una idea. La clave está en el contexto y en el control: sin normas claras, se convierte en una trampa; con un uso bien delimitado, puede ser una herramienta potente. El problema es que esa delimitación depende de centros, profesorado, políticas y cultura, y eso no se resuelve con una actualización de software.

En el ámbito legal y administrativo, el listón es más alto. Un error en un trámite no es una anécdota; puede tener consecuencias. Por eso el discurso sobre “intuición” aquí se vuelve práctico: si el sistema funciona por plausibilidad, hay que anclarlo con fuentes, trazabilidad, registros, auditoría. Y en sanidad, ni hablar: cualquier uso serio exige validación clínica, protocolos, responsabilidad clara. La IA generativa puede redactar informes, ordenar notas, sugerir hipótesis; pero si inventa un dato, el daño es real. Nadie quiere un texto bonito si lo bonito oculta un error.

El mapa mental que deja esta sorpresa

La idea de que la IA “intuye” no pretende humanizarla; pretende describir con precisión su comportamiento. Estos sistemas no son simples calculadoras, porque manejan ambigüedad, contexto, estilo. Tampoco son mentes humanas, porque no tienen experiencia propia, ni intención, ni comprensión encarnada del mundo. Son otra cosa: motores estadísticos entrenados a escala, capaces de generar lenguaje con una competencia que roza lo inquietante.

Eso obliga a colocar cada expectativa en su sitio. Cuando la tarea es lingüística, cuando el problema se parece a lo que el modelo ha visto, cuando hay margen de error o cuando existe verificación, la IA resulta valiosa. Cuando la tarea exige exactitud milimétrica, responsabilidad, trazabilidad o sentido común fuera del texto, la IA necesita apoyos: herramientas externas, reglas, comprobaciones, supervisión. Y aun así puede fallar.

La gran sorpresa, la que hoy está sobre la mesa, es que una parte enorme de lo que considerábamos “inteligencia práctica” puede replicarse con patrones y escala. No porque el modelo tenga alma, sino porque el mundo social está tejido de lenguaje y el lenguaje contiene, comprimidos, nuestros hábitos mentales. La IA se engancha a esa tela y, tirando del hilo, saca respuestas que parecen nacidas de un criterio. A veces lo son en sentido operativo: funcionan. Otras veces solo lo parecen: suenan bien y están vacías.

En esa tensión vive el debate actual. Y quizá la conclusión más útil, sin dramatismos ni épica barata, es ésta: la IA no ha venido a demostrar que las máquinas sean humanas; ha venido a recordarnos que muchas tareas humanas se apoyan en intuiciones rápidas, en asociaciones, en memoria cultural, en patrones que repetimos sin darnos cuenta. La diferencia es que ahora ese espejo devuelve frases perfectas, sin respiración, sin cansancio, sin miedo a equivocarse… y precisamente por eso conviene mirar el reflejo con la calma de quien sabe que lo convincente no siempre es lo cierto.