¿Qué hay tras los LLM: simples azar o inteligencia real?

Modelos de lenguaje: qué son, hasta dónde llegan y qué cambia con el razonamiento, RAG y la regulación europea. Datos, nombres y usos reales.

Los modelos de lenguaje actuales se entrenan para anticipar el siguiente token de una secuencia. Esa es la mecánica básica. Aun así, reducirlos a un autocompletado sofisticado ya no explica lo que vemos en uso profesional: son sistemas que aprenden estructura lingüística y factual, que generalizan a tareas no vistas y que, cuando se conectan a buscadores o calculadoras, elevan su fiabilidad y alcance. En tribunales, redacciones y empresas españolas ya hay pruebas de ello: textos legales que se reescriben con precisión, informes con citas verificables y código funcional que compila a la primera. No es magia; es estadística con arquitectura, más herramientas y controles.

El matiz importa. Los modelos aciertan porque predicen; predicen bien porque han destilado regularidades profundas del lenguaje y del mundo a partir de corpus masivos. El resultado práctico, hoy, es dual: pueden resolver problemas reales —si se despliegan con recuperación documental, verificación y revisión humana— y pueden fallar de manera verosímil cuando falta contexto o la pregunta exige cálculo formal impecable. Esa tensión explica el debate público. Y sitúa a los protagonistas del sector —OpenAI, Google DeepMind, Anthropic, Meta, Mistral— y a los reguladores europeos en un mismo tablero donde los avances técnicos y las garantías legales se empujan mutuamente.

Cómo funcionan en la práctica: del token a las representaciones

Un LLM moderno se construye con arquitecturas transformer y se entrena en gigantescos conjuntos de datos para minimizar el error al anticipar la siguiente unidad de texto. Al hacerlo, aprende dependencias de largo alcance, sintaxis, semántica y relaciones causales latentes. De ahí sale una propiedad esencial: representaciones internas que capturan estado y contexto. No memoriza frases sueltas como un loro, sino que calcula vectores que organizan el significado. Esto explica por qué, con una consigna precisa, ofrece párrafos coherentes y por qué, con malas instrucciones, se descarrila.

Esa base se refuerza con dos capas que han cambiado el juego. La primera, el ajuste fino con preferencias humanas (RLHF y variantes más recientes), entrena al sistema a elegir respuestas útiles y seguras a partir de comparaciones hechas por personas. La segunda, la recuperación aumentada (retrieval augmented generation), permite buscar información fuera de los parámetros: índices propios, bases jurídicas, hemerotecas o la web. Cuando se integra bien, el modelo deja de depender solo de lo que “recuerda” y pasa a citar y contextualizar. En términos de redacción, eso significa pasar de un borrador brillante pero dudoso a un artículo documentado.

Este andamiaje técnico ha entrado en la cultura general con nombres propios. Sam Altman empuja desde OpenAI la línea de modelos que “piensan antes de hablar” para problemas duros; Demis Hassabis ha defendido en Google DeepMind el enfoque de investigación de largo aliento con mayor uso de herramientas; Dario Amodei sostiene en Anthropic la hipótesis de seguridad escalable y constitutional AI; Yann LeCun en Meta insiste en el futuro de agentes que aprendan del mundo y no solo de texto; Arthur Mensch aproxima desde Mistral la línea europea de modelos compactos y eficientes. Sus estrategias divergen, pero coinciden en el núcleo: el objetivo de predicción se convierte en capacidades útiles cuando se rodea de razonamiento explícito, recuperación y controles.

Del objetivo simple a un comportamiento compuesto

La aparente paradoja —“predicen tokens pero resuelven tareas”— se aclara si distinguimos objetivo de entrenamiento y comportamiento en inferencia. Durante el uso, el sistema no se limita a lanzar la palabra más frecuente: calcula atención sobre miles de posiciones, combina pistas, actualiza su estado interno y optimiza la salida según el decodificador elegido. A esto se suman técnicas de inferencia que ya forman parte del día a día: autoconsistencia (generar varias cadenas internas y quedarse con la más coherente), verificación por modelos secundarios y crítica-refinamiento en dos pasos. Cada una sacrifica algo de velocidad a cambio de fiabilidad.

Hay otro detalle práctico que se suele pasar por alto: el presupuesto de contexto. Los modelos manejan ventanas que hoy admiten cientos de miles de tokens, lo que permite inyectar legislación completa, pliegos técnicos o un manual de producto. Con esa memoria de trabajo ampliada, el fenómeno de las citas fantasma se reduce si el índice y la selección de fragmentos son buenos. No siempre lo son; por eso la ingeniería de recuperación —cómo trocear, cómo ponderar, cómo desambiguar— es tan relevante como el propio modelo.

Lo nuevo en “modelos de razonamiento”: pensar antes de responder

Desde finales de 2024, el discurso técnico introdujo una idea sencilla pero potente: dedicar parte de la inferencia a razonar en silencio. La serie o1 de OpenAI popularizó ese enfoque con pasos intermedios internos que el usuario no ve. La edición posterior, enfocada a razonamiento y programación, evidenció mejoras en matemáticas escolares, coding y ciencia aplicada. En paralelo, otros laboratorios publicaron modelos con entrenamiento por refuerzo centrado en obtener mejores cadenas de razonamiento y no solo respuestas finales. En 2025, el término “modelos de razonamiento” se convirtió en etiqueta de mercado, con variantes cerradas y abiertas.

La lógica es directa: si le permites al sistema probar, descartar y recombinar caminos —aunque eso cueste más tokens de cálculo—, sube la tasa de acierto en tareas donde una única pasada es insuficiente. Y si a ese “tiempo para pensar” se suma la capacidad de invocar herramientas en medio del proceso, el salto es mayor: operaciones matemáticas exactas, consultas a bases de datos, acceso a documentación interna. Es la diferencia entre sonar convincente y ser correcto.

Herramientas, APIs y búsqueda en caliente

La integración de herramientas ha pasado de la demo a la producción. Hoy, los LLM pueden decidir cuándo llamar a una calculadora simbólica, qué parámetro pedir a una API de logística o dónde buscar en un repositorio legal. En bancos y aseguradoras españolas ya hay pilotos —y algunos despliegues— que conectan el modelo a catálogos de productos y a gestores documentales, con registros de auditoría y guardrails para evitar accesos indebidos. En redacciones, el patrón que funciona combina modelo + buscador + guía de estilo, con obligatoriedad de citar fuentes y de conservar el trace de cada consulta para supervisión editorial.

La madurez se aprecia en detalles como el control de temperatura (decodificación más determinista cuando importa la exactitud), el uso de prompts estructurados con roles y campos definidos, o la incorporación de verificadores que reescriben una respuesta si detectan contradicciones con las evidencias recuperadas. Es un ecosistema: ya no hablamos de un único modelo, sino de sistemas orquestados.

Limitaciones comprobadas y riesgos operativos

El reverso de esta evolución es conocido y medido. Los modelos alucinan cuando no encuentran soporte o cuando se les empuja fuera de distribución. En derecho, eso se traduce en citas inventadas; en salud, en recomendaciones no respaldadas; en periodismo, en atribuciones erróneas. La mitigación efectiva pasa por tres capas: recuperación fiable, verificación sistemática y revisión humana. Incluso así, quedan fallos. Conviene tratar los LLM como copilotos: aceleran, proponen, resumen y conectan, pero la responsabilidad última de la información permanece en quien firma.

La seguridad es el otro frente. Persisten los ataques de prompt que intentan anular instrucciones o extraer datos sensibles. Y aparecen variantes dirigidas a los modelos de razonamiento, que buscan que el sistema “justifique” acciones indebidas en su cadena interna. Las defensas incluyen filtrado de entradas y salidas, política de uso clara, rate limiting, segmentación de datos y pruebas rojas recurrentes. Para casos críticos —finanzas, infraestructuras, sanidad—, ya es habitual combinar el LLM con políticas deterministas que bloquean respuestas que violen reglas formales.

En evaluación, el sector se movió de exámenes memorizables a pruebas de abstracción de patrones y razonamiento composicional. La fotografía real es heterogénea: hay avances en álgebra, lógica y programación, sí, pero la robustez fuera de distribución sigue siendo el gran reto. Se ha pinchado, además, el globo de las supuestas “capacidades emergentes” como saltos mágicos; lo que vemos, con métricas continuas, son curvas de mejora más suaves conforme aumentan datos, parámetros y mejoran los procedimientos de inferencia.

Fechas y obligaciones: el nuevo marco europeo y su aterrizaje en España

El AI Act de la Unión Europea establece un marco por riesgo con plazos escalonados. Las prohibiciones de prácticas inaceptables y los deberes de alfabetización entran primero. Los modelos de propósito general —la categoría donde encajan los LLM— afrontan obligaciones específicas de documentación, ciberseguridad y gestión de riesgos, que se activan en 2025. Para los modelos con riesgo sistémico, se exige además reporte reforzado a la Comisión y evaluaciones más estrictas. La aplicación completa del reglamento se cierra en 2026, con guías y normas técnicas que la Comisión y los organismos europeos de normalización irán concretando.

España llega con estructura. La Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), con sede en A Coruña, asume papel central en supervisión, coordinación y fomento de buenas prácticas. El Gobierno ha impulsado, además, líneas de trabajo para modelos en castellano y lenguas cooficiales y para su uso en administración pública, donde la trazabilidad y la protección de datos no son negociables. El ecosistema nacional se apoya en actores como el Barcelona Supercomputing Center, la Biblioteca Nacional y universidades que han liberado modelos y datasets orientados a nuestro idioma —entre ellos, MarIA—, base útil para fine-tuning sectorial y para competir con acento propio.

Este marco tiene consecuencias directas: documentación de datos de entrenamiento, registro de evaluaciones internas y externas, auditorías de seguridad y rendimiento, y transparencia en las capacidades y límites del sistema. Para quien despliegue LLM en atención ciudadana, contratación pública o servicios críticos, la pregunta ahora no es si puede, sino cómo lo hace cumpliendo reglas.

Casos de uso que ya funcionan: de la redacción a la ventanilla única

La promesa se materializa en flujos concretos. En redacciones nacionales, los LLM se usan para documentar piezas: resúmenes de informes complejos con citas adjuntas, cronologías de casos judiciales, verificación previa de nombres y cargos. La diferencia entre una herramienta útil y un riesgo reputacional está en los procedimientos: qué índice se consulta, cómo se graba la trazabilidad de cada búsqueda, quién aprueba la versión final y con qué criterios.

En empresas, el patrón de éxito es claro. Primero, un modelo alineado con políticas de la casa y con RAG sobre repositorios internos. Después, herramientas: CRM, ERP, catálogos, calculadoras financieras. Finalmente, controles: validadores que bloquean salidas que no pasen pruebas, logs completos y un circuito de mejora continua. El resultado: respuestas de soporte con evidencias, generación de documentación técnica coherente con el repositorio de código, preparación de ofertas con cláusulas legales estandarizadas. En España hay pilotos visibles en banca, retail y energía que trabajan justo así.

En administración pública, el potencial pasa por asistentes que explican trámites con lenguaje claro, sistemas que redactan borradores normativos apoyados en legislación vigente y herramientas para analizar expedientes extensos. La cautela es máxima: protección de datos, no discriminación, accesibilidad y auditoría. Sobre esa base, los LLM pueden recortar tiempos y mejorar la comprensión de servicios esenciales.

Qué no hacen y conviene no pedirles

Conviene acotar expectativas. Un LLM no comprende como una persona, no tiene intenciones ni conciencia. Trabaja con correlaciones ricas, sí, y con representaciones útiles, pero no razona con garantía lógica salvo que se le fuerce a ello con procedimientos específicos y verificables. En matemáticas formales, en pruebas de software crítico o en recomendaciones clínicas, debe operar como asistente sujeto a reglas externas y a validación, no como arbitro último. También conviene recordar que, sin conexión a fuentes externas y sin un índice bien construido, inventará detalles para completar huecos.

Otro punto delicado es el sesgo. Si los datos históricos están desequilibrados, el modelo reproducirá ese desequilibrio. La corrección no es solo técnica —debiasing, filtros, realimentación—; también es organizativa: equipos diversos, pruebas específicas por colectivos y transparencia al comunicar capacidades y límites. En contextos sensibles, la equidad deja de ser deseable para ser obligatoria.

Pistas concretas para desplegar con cabeza

La experiencia acumulada en redacciones, startups y grandes compañías deja un guion práctico. Empezar chico con un caso claro, medir, documentar y escalar. Integrar el modelo con un índice de documentos bien troceados, con metadatos y control de versiones. Obligar a la herramienta a citar lo que usa. Establecer verificadores que comparen la respuesta con las evidencias recuperadas y bloqueen si hay contradicciones. Registrar cada sesión —quién pidió qué, qué se recuperó, qué se devolvió—. Y formar a los equipos en redacción con IA, para que sepan cuándo confiar y cuándo pedir segunda opinión.

El coste también cuenta. Los modelos de “razonamiento” consumen más tokens en inferencia; el presupuesto debe calibrarse con cabeza: determinismo en lo que exige precisión, creatividad donde se valora la variedad. A veces la solución no es “el modelo más grande”, sino un modelo mediano bien situado, conectado a los datos correctos y rodeado de herramientas y reglas. Para español peninsular y lenguas cooficiales, los modelos ajustados localmente ofrecen ventajas claras de estilo y terminología.

Lo que sí sabemos hoy sobre los LLM

La etiqueta de “predictores de palabras” captura el punto de partida, no el destino. Con los engranajes actuales —razonamiento interno, recuperación de información, uso de herramientas y alineación—, los LLM se han convertido en sistemas de propósito general capaces de generar, resumir, traducir, programar y analizar con un nivel de calidad que hace dos años parecía remoto. Siguen fallando de formas conocidas, y ahí la industria y la regulación —AI Act, AESIA— han puesto guardarraíles: documentación, auditorías, seguridad, trazabilidad. En esa combinación, hoy, ya se está trabajando bien.

La respuesta, por tanto, es concreta. Son modelos estadísticos entrenados para predecir, pero ese proceso produce representaciones que sostienen conductas útiles cuando se insertan en sistemas que les permiten pensar un poco más y que les proporcionan acceso a la información correcta. OpenAI, Google DeepMind, Anthropic, Meta o Mistral empujan por vías distintas hacia la misma meta: usar más cómputo donde aporta y controlar mejor lo que entregan. En España, con AESIA en marcha y una comunidad técnica que ya opera con modelos en castellano —MarIA entre ellos—, el terreno está preparado para dar utilidad sin perder garantías.

Queda trabajo: reducir alucinaciones en escenarios de presión, blindar seguridad, medir sesgo con rigor, explicar de forma comprensible cómo se toman decisiones y alinear expectativas con lo que la técnica de verdad ofrece. Pero ya no estamos ante una promesa lejana. La tecnología funciona cuando se rodea de proceso y método. Predicen, sí. Y, bien encuadrados, razonan lo suficiente como para ser herramientas fiables en manos responsables. En el barullo de titulares y eslóganes, este punto sereno —apoyado en hechos, nombres y fechas— es el que marca la diferencia.