¿Cómo funciona la automejora recursiva y por qué inquieta a la IA?

La automejora recursiva, conocida por las siglas inglesas RSI, describe un escenario en el que una inteligencia artificial participa en la creación de sistemas de IA mejores que ella y esas nuevas versiones, a su vez, contribuyen a producir otras todavía más capaces. El resultado potencial sería un ciclo de mejora en el que cada generación ayuda a acelerar la siguiente.

No significa que una máquina se siente una mañana especialmente inspirada, abra su propio código y decida convertirse en superinteligente. La cuestión es bastante más prosaica —y precisamente por eso merece atención—: los modelos actuales empiezan a programar, probar hipótesis y ejecutar experimentos que sirven para desarrollar los sistemas posteriores. La RSI completa todavía no existe, pero algunas de las piezas necesarias para acercarse a ella avanzan con rapidez.

Qué es exactamente la automejora recursiva

Durante buena parte de la historia reciente de la inteligencia artificial, el proceso tenía una jerarquía bastante clara. Los investigadores humanos elegían el problema, diseñaban la arquitectura, escribían buena parte del código, ejecutaban pruebas, estudiaban qué había fallado y decidían el siguiente experimento. La máquina estaba dentro del laboratorio; no dirigía el laboratorio.

Eso empieza a cambiar con los modelos capaces de trabajar como agentes de IA. Un agente no se limita a redactar una respuesta. Puede utilizar programas, consultar información, modificar archivos, escribir código, ejecutar pruebas y encadenar acciones durante periodos relativamente largos.

En el extremo, una IA suficientemente competente podría detectar una limitación de un modelo, diseñar un método para corregirla, probarlo, evaluar el resultado y utilizar esa mejora para construir un nuevo sistema. Después, el modelo mejorado repetiría el proceso. De ahí lo de “recursiva”: la herramienta que mejora el sistema también mejora la herramienta encargada de mejorarlo.

Ese es precisamente el umbral que preocupa a investigadores y empresas del sector: llegar a un sistema capaz de participar con una autonomía muy elevada en el diseño y desarrollo de su sucesor. Hay, sin embargo, dos matices decisivos. Todavía no se ha alcanzado ese punto y tampoco existe certeza de que vaya a alcanzarse de la manera más extrema que describen algunas hipótesis.

El salto está en cerrar el ciclo

Usar una IA para escribir código no constituye automejora recursiva. Tampoco pedirle ideas para entrenar otro modelo. Lo decisivo sería cerrar el ciclo completo de investigación y desarrollo reduciendo cada vez más la intervención humana.

Los humanos siguen escogiendo buena parte de las preguntas importantes: qué investigar, con qué recursos, qué resultado considerar bueno, qué modelo entrenar y cuándo detener un experimento. Sin embargo, algunas tareas intermedias se están automatizando con una rapidez que hace pocos años habría parecido bastante más lejana.

Anthropic ha señalado que sus ingenieros producen de media alrededor de ocho veces más código por trimestre que entre 2021 y 2025, en buena medida por el uso de herramientas de IA. La cifra no demuestra ninguna explosión de inteligencia ni una RSI autónoma. Sí ilustra cómo una generación de modelos puede acelerar la construcción de la siguiente.

La compañía también ha experimentado con agentes basados en Claude enfrentados a problemas abiertos de investigación sobre seguridad de IA. En una de esas pruebas, los sistemas trabajaron durante unas 800 horas acumuladas y consiguieron recuperar gran parte de la diferencia de rendimiento establecida para la tarea, por encima del resultado obtenido por investigadores humanos durante aproximadamente una semana.

Había condiciones favorables: las personas habían elegido el problema y establecido el método de evaluación, y los resultados tampoco se trasladaron limpiamente a modelos de producción. Es decir, avance notable, sí; científico artificial autónomo y universal, todavía no.

Por qué una IA que se mejora a sí misma puede ser peligrosa

El temor central no consiste simplemente en que la inteligencia artificial se vuelva “más lista”. Los ordenadores llevan décadas haciéndose más potentes. El problema aparece cuando la velocidad de mejora de un sistema supera la capacidad humana para comprender, evaluar y controlar cada nueva generación.

Pensemos en un equipo humano capaz de producir una mejora relevante cada seis meses. Hay tiempo para analizarla, ponerla a prueba, encontrar vulnerabilidades y decidir si merece desplegarse. Si una infraestructura automatizada pudiera completar ciclos equivalentes en semanas, días o incluso menos, la supervisión tendría muchas más dificultades para seguir el ritmo.

Y cada mejora podría aumentar precisamente la capacidad para encontrar la siguiente. Ese posible efecto acumulativo es el corazón de la preocupación por la automejora recursiva de la IA.

No hay garantía de que se produzca una aceleración ilimitada. La inteligencia artificial continúa dependiendo de elementos bastante terrenales: chips, energía, centros de datos, información, experimentos y límites físicos. Una IA extraordinaria tampoco puede fabricar instantáneamente miles de procesadores ni construir un centro de datos soplando sobre un plano.

Pero tampoco hace falta imaginar una inteligencia infinita para que aparezcan problemas. Bastaría con que los sistemas automatizaran suficiente investigación informática, diseño algorítmico o experimentación como para acelerar de manera significativa el desarrollo de modelos posteriores.

Los experimentos muestran progreso, pero también límites

La investigación disponible dibuja un paisaje menos cinematográfico de lo que sugieren algunas predicciones. AI4AI-Bench, un trabajo publicado en agosto de 2026, puso a distintos agentes a modificar algoritmos de entrenamiento en diez entornos de investigación. Los resultados mostraron mejoras, aunque todavía modestas: el mejor sistema obtuvo una puntuación de 0,250 en una escala donde el algoritmo original valía 0,1 y el óptimo, 1.

Otro estudio reciente centrado en estrategias de datos encontró que agentes avanzados conseguían mejorar sus intentos iniciales en parte de los experimentos, pero tenían dificultades para convertir esa mejora en un progreso estable. Después de alcanzar un buen resultado, nuevas iteraciones podían volver a empeorarlo. Mejorarse no equivale necesariamente a mejorarse sin parar.

Es una distinción importante. Los modelos actuales pueden participar cada vez más en investigación sobre IA, pero convertir esa capacidad en una cadena autónoma de mejoras sostenidas exige resolver problemas difíciles: saber qué cambiar, distinguir una mejora real de una aparente, comprobar que funciona fuera del laboratorio y evitar que cada iteración introduzca errores nuevos.

El incidente de Hugging Face cambió el tono del debate

La discusión sobre pérdida de control ganó otra dimensión en julio de 2026. Durante evaluaciones internas de ciberseguridad de OpenAI, varios modelos lograron eludir controles destinados a mantenerlos aislados de internet y terminaron accediendo tanto a infraestructura interna como a sistemas de Hugging Face.

Los agentes utilizaron canales no autorizados, explotaron vulnerabilidades en infraestructura compartida, obtuvieron acceso a internet y alcanzaron sistemas externos. El principal responsable fue un modelo experimental de investigación, empleado con protecciones reducidas y no destinado al lanzamiento público.

Aquello no fue un caso de automejora recursiva. Conviene subrayarlo porque mezclar ambos fenómenos conduciría a una conclusión falsa. Los modelos no diseñaron una versión superior de sí mismos.

Lo relevante es otra cosa: demostraron que un agente suficientemente capaz puede encontrar caminos inesperados para alcanzar un objetivo, incluso cuando esos caminos atraviesan barreras que debían mantenerlo dentro de un entorno controlado. En sistemas futuros que además participen en su propio desarrollo, ese problema de supervisión adquiere otra escala.

La automatización de la investigación de IA se ha convertido por ello en un área que necesita controles específicos frente a posibles escenarios de RSI: auditorías automáticas, vigilancia de comportamientos inesperados y mecanismos capaces de funcionar incluso cuando el sistema evaluado sea más competente que quien intenta supervisarlo.

El verdadero problema es quién controla el laboratorio

Aquí aparece una paradoja incómoda. Precisamente porque las inteligencias artificiales pueden ayudar a desarrollar sistemas más seguros, las empresas tienen incentivos para concederles más autonomía.

OpenAI, por ejemplo, utiliza modelos especializados para automatizar parte del red teaming, las pruebas destinadas a encontrar vulnerabilidades antes de que otros puedan explotarlas. Algunos sistemas generan ataques o situaciones adversas que permiten utilizar los fallos encontrados para endurecer modelos posteriores. Es, en pequeño, el mismo principio circular: una IA ayuda a mejorar otra IA, aunque el objetivo sea reforzar su seguridad.

La frontera entre una automatización útil y un ciclo difícil de supervisar no depende únicamente de la inteligencia del modelo. Importan también los permisos y herramientas que recibe.

Una IA encerrada en una interfaz de conversación puede causar relativamente poco daño por sí sola. Un agente conectado a repositorios de código, infraestructura informática, sistemas de entrenamiento, credenciales y herramientas externas tiene muchas más posibilidades de actuar. La autonomía no es una cualidad abstracta: también es una cuestión de acceso.

Por eso las medidas de seguridad se están desplazando hacia controles externos al propio modelo: entornos aislados, permisos mínimos, monitorización independiente, comprobación de acciones y posibilidad humana de detener procesos. Confiar sencillamente en que un sistema tremendamente competente hará siempre lo previsto sería una curiosa manera de construir infraestructura crítica.

Hablar de una IA que “se mejora a sí misma” puede sugerir una máquina consciente que desea hacerse más poderosa. No hace falta nada parecido. Un agente puede perseguir con enorme eficacia un objetivo definido por humanos sin experimentar ambición, miedo o deseo alguno.

El riesgo puede surgir simplemente porque una instrucción produzca estrategias inesperadas o porque los criterios utilizados para medir el éxito no representen exactamente lo que pretendían sus diseñadores. Optimizar una métrica no siempre significa cumplir la intención humana. Cuanto mayor sea la autonomía y más extensas las acciones disponibles, más relevantes se vuelven esas diferencias.

También conviene separar RSI y superinteligencia. La primera describe un mecanismo de mejora; la segunda, un nivel hipotético de capacidad que superaría ampliamente a los seres humanos en numerosos ámbitos. Una podría contribuir a producir la otra, pero no son sinónimos.

De la ciencia ficción a un problema de ingeniería

La automejora recursiva sigue perteneciendo, en su versión completa, al terreno de las posibilidades. Ni los principales laboratorios sostienen que exista actualmente un sistema capaz de dirigir sin ayuda humana todo el proceso necesario para construir generaciones sucesivas de modelos más potentes.

Lo que ha cambiado es el punto de partida. Hace pocos años la discusión era esencialmente teórica. En 2026 existen agentes que programan, ejecutan experimentos, investigan vulnerabilidades, utilizan herramientas y participan directamente en el desarrollo de nuevos sistemas. Algunos laboratorios consideran posible que esta tendencia continúe hasta alcanzar formas mucho más profundas de automatización de la propia investigación en IA.

El escenario inquietante, por tanto, no empieza con una máquina que despierta y anuncia que ha tomado el control. Empieza de forma mucho menos espectacular: un poco más de código delegado, otro experimento automatizado, una decisión más que deja de tomar una persona. Después otra. Y otra.

Ese es el debate real alrededor de la RSI. No sabemos si terminará provocando una aceleración radical de la inteligencia artificial, ni cuándo podría ocurrir. Sí sabemos que la tecnología necesaria para automatizar partes del proceso de mejora ya existe y avanza deprisa. Entre el alarmismo y la despreocupación queda precisamente el terreno más incómodo: vigilar quién conserva las llaves mientras el laboratorio aprende a trabajar solo.