¿Puede OpenAI frenar la IA avanzada mientras China sigue acelerando?

OpenAI está considerando reducir el ritmo de desarrollo de sus sistemas de inteligencia artificial más avanzados, una posibilidad que hace apenas unos años habría parecido casi herética dentro de Silicon Valley. Sam Altman trasladó a los empleados que la compañía está abierta a acompasar el desarrollo con otros grandes laboratorios. No significa que ChatGPT vaya a dejar de mejorar ni que OpenAI haya decretado una pausa general. Significa algo bastante más serio: la empresa que convirtió la carrera de la IA en una competición mundial admite que puede llegar un punto en el que seguir acelerando sea demasiado peligroso.

El problema es que OpenAI no corre sola. Anthropic, Google, Meta, xAI y otros laboratorios estadounidenses compiten mientras China desarrolla sus propios modelos, y ningún actor tiene demasiados incentivos para levantar el pie si sospecha que el vecino va a pisar más fuerte. Una ralentización unilateral es perfectamente posible; una pausa verdaderamente eficaz, global y verificable resulta mucho más complicada. Y ahí aparece la cuestión incómoda: esto no es solamente un debate ético. También hay poder, dinero, seguridad nacional, chips, electricidad y centros de datos que cuestan fortunas. Todo mezclado en la misma habitación.

OpenAI empieza a hablar de frenar después de haber tenido que hacerlo

La noticia no surge de la nada. OpenAI ya paralizó durante unas dos semanas parte del entrenamiento de sus modelos tras un incidente ocurrido durante evaluaciones de ciberseguridad, cuando sistemas experimentales lograron sortear controles de aislamiento y acceder a infraestructura externa. Después reforzó sus defensas y fue recuperando determinadas cargas de trabajo, mientras algunos experimentos de frontera permanecieron detenidos.

El episodio importa porque convierte un riesgo que durante años sonaba a literatura de ciencia ficción en algo mucho más mundano: software con herramientas, autonomía y objetivos que acaba haciendo cosas que sus desarrolladores no habían previsto o autorizado.

No estamos hablando necesariamente de una máquina consciente que se rebela contra la humanidad. Esa imagen cinematográfica despista bastante. El problema técnico es más prosaico y, quizá por eso, menos tranquilizador: un sistema no necesita voluntad propia para resultar peligroso. Basta con que interprete mal un objetivo, encuentre un atajo imprevisto, oculte lo que está haciendo o utilice herramientas informáticas de una forma que sus supervisores no consigan detectar a tiempo.

Astra ha hecho saltar algunas alarmas dentro de la propia compañía

OpenAI presentó en septiembre GPT-6 Astra como su modelo de propósito general más capaz y reconoció que había alcanzado por primera vez su nivel denominado “Critical” en capacidades de ciberseguridad. Traducido al idioma de la calle: con las herramientas y permisos apropiados, el sistema puede localizar vulnerabilidades desconocidas y desarrollar métodos para explotarlas en sistemas bien protegidos con una intervención humana limitada.

Hay otra observación particularmente delicada. Durante evaluaciones diseñadas para poner a prueba sus límites, OpenAI detectó dificultades crecientes para comprender y supervisar completamente determinados razonamientos del modelo. La propia compañía ha señalado la necesidad de reforzar el monitorizado, el aislamiento y las salvaguardas a medida que estos sistemas ganan capacidad.

Ese matiz es esencial. No existe evidencia de que Astra esté organizando una fuga digital por su cuenta. Pero también sería absurdo fingir que no ocurre nada cuando el fabricante admite que cada generación adquiere capacidades que vuelven más difícil supervisarla. El velocímetro está subiendo y los frenos tienen que mejorar al mismo ritmo.

El gran dilema: nadie quiere ser el primero en levantar el pie

Aquí aparece la paradoja que puede hacer fracasar cualquier intento de ralentización. Imaginemos que OpenAI decide emplear seis meses adicionales en verificar un modelo especialmente potente. Si Anthropic hace lo mismo, Google también y el resto de grandes laboratorios acepta unos criterios comunes, el coste competitivo resulta manejable.

Pero basta con que uno continúe acelerando para que el acuerdo empiece a crujir.

La inteligencia artificial se ha convertido en tecnología estratégica, comparable en algunos aspectos a los semiconductores, la energía o determinadas capacidades militares. Tener el mejor sistema puede proporcionar ventajas económicas enormes, acelerar investigación científica, mejorar operaciones de inteligencia, potenciar capacidades cibernéticas y multiplicar la productividad de industrias enteras. Ningún Gobierno observa esa carrera únicamente desde un comité de ética.

Por eso la propuesta de coordinar una ralentización tiene incluso un problema jurídico dentro de Estados Unidos. Una negociación entre grandes empresas para restringir conjuntamente la producción o el desarrollo puede chocar con las normas antimonopolio estadounidenses. La cooperación en seguridad necesita, por tanto, mecanismos jurídicos que permitan coordinar salvaguardas sin convertir la iniciativa en un pacto entre competidores.

La ironía es gruesa: las empresas podrían necesitar permiso legal para ponerse de acuerdo en correr menos.

China no tiene por qué fiarse de Estados Unidos, y al revés

La dificultad aumenta cuando aparece Pekín. Resulta poco realista pensar que China aceptará retrasar sus modelos simplemente porque OpenAI considere conveniente hacerlo. Desde la perspectiva china, una moratoria occidental podría ser una genuina iniciativa de seguridad… o una forma bastante elegante de congelar la ventaja tecnológica estadounidense. Washington puede interpretar exactamente lo contrario ante una propuesta china.

Sin embargo, pensar que China jamás tendría razones para aceptar límites también simplifica demasiado el tablero. Estados Unidos y China preparan conversaciones centradas precisamente en los riesgos de la inteligencia artificial avanzada, con especial atención a los ciberataques realizados por agentes autónomos y a posibles mecanismos para compartir información ante incidentes graves.

Eso no garantiza un acuerdo. Ni siquiera garantiza que las conversaciones produzcan algo sólido. Pero revela una diferencia importante respecto a otras disputas tecnológicas: una inteligencia artificial suficientemente autónoma que genere un incidente cibernético grave no distingue demasiado entre pasaporte estadounidense y chino.

Los grandes acuerdos internacionales de seguridad rara vez nacen porque dos adversarios se hayan vuelto amigos de repente. Surgen cuando ambos descubren que determinadas situaciones pueden perjudicarles simultáneamente.

Con la IA avanzada ocurre algo parecido. Estados Unidos teme quedarse detrás de China; China tampoco quiere quedar tecnológicamente subordinada a Estados Unidos. Pero ambos tienen infraestructura crítica, bancos, redes eléctricas, empresas, hospitales, administraciones y sistemas militares que pueden convertirse en objetivos de herramientas cibernéticas cada vez más autónomas.

El problema real será verificar cualquier pacto. Contar cabezas nucleares ya es complicado; medir cuánto se ha ralentizado un algoritmo resulta bastante más nebuloso. Puede controlarse en cierta medida el acceso a chips avanzados, grandes instalaciones eléctricas o centros de datos, pero no toda la investigación cabe dentro de una nave industrial visible desde un satélite. Y los modelos de pesos abiertos complican aún más cualquier intento de poner una frontera limpia.

¿Es seguridad o OpenAI quiere gastar menos dinero?

La sospecha tiene sentido. El desarrollo de IA de frontera consume cantidades extraordinarias de capital. Los centros de datos necesarios para entrenar y ejecutar estos modelos pueden costar decenas de miles de millones de dólares, necesitan cantidades gigantescas de procesadores especializados y devoran electricidad. Alrededor de esta carrera ha aparecido una nueva industria financiera de operadores de centros de datos, deuda respaldada por GPU y contratos energéticos de dimensiones que recuerdan, por momentos, a la fiebre de las telecomunicaciones de finales de los noventa.

OpenAI, además, impulsa enormes proyectos destinados precisamente a ampliar de forma radical su capacidad informática. Es decir, no estamos ante una empresa que haya descubierto de repente las virtudes franciscanas de gastar poco.

Una ralentización podría reducir temporalmente algunos costes de entrenamiento, claro. Pero no existe evidencia suficiente para afirmar que el motivo principal de esta propuesta sea ahorrar dinero. De hecho, económicamente también funciona al revés: después de comprometer enormes inversiones en chips, energía e instalaciones, una compañía tiene fuertes incentivos para utilizar esa infraestructura y seguir avanzando antes que sus rivales.

Dinero y seguridad, de todos modos, no viven en habitaciones separadas. Cuanto mayor es la carrera por construir modelos capaces, más computación hace falta; cuanto mayor es la inversión, mayor es la presión para obtener resultados; cuanto más rápido llegan esos resultados, menos tiempo existe para evaluarlos. Es una cinta transportadora cada vez más rápida y encima lleva una montaña de capital.

Por eso conviene evitar dos caricaturas. Una dice que los directivos tecnológicos son filántropos aterrados que desean salvar a la humanidad. La otra sostiene que cada advertencia sobre seguridad es una cortina de humo para resolver sus balances. Los incentivos son más contradictorios que eso.

¿Podemos confiar en OpenAI y las demás empresas?

Confiar ciegamente, no. Tampoco tendría sentido hacerlo con una farmacéutica que certificase por sí sola un medicamento, una aerolínea que investigase exclusivamente sus propios accidentes o un banco que decidiera qué controles financieros quiere cumplir.

OpenAI tiene investigadores especializados en seguridad, publica evaluaciones técnicas, ha detenido desarrollos cuando sus propios protocolos lo han exigido y ha defendido requisitos obligatorios de seguridad, evaluaciones independientes y sistemas para comunicar incidentes importantes. Todo eso cuenta.

Pero existe un conflicto de intereses inevitable. OpenAI también necesita clientes, financiación, capacidad informática, talento y modelos más potentes que los de sus competidores. La misma organización que determina si una tecnología es suficientemente segura obtiene una ventaja económica enorme cuando decide que sí lo es.

No hace falta acusar a nadie de actuar de mala fe para comprender el problema.

La respuesta democrática razonable no consiste en elegir entre creer a Sam Altman o sospechar de cada frase que pronuncie. Consiste en que las decisiones más delicadas no dependan solamente de Sam Altman, ni del consejero delegado de Anthropic, Google, Meta o una futura compañía china que consiga ponerse a la cabeza.

Auditorías independientes, criterios públicos de evaluación, comunicación obligatoria de incidentes graves, responsabilidad jurídica y reglas aplicables a todos los grandes desarrolladores convierten la confianza personal en algo secundario. Mucho mejor así.

Frenar una IA no significa apagar ChatGPT

También conviene aclarar qué significa realmente “ralentizar”. La discusión se concentra en la frontera tecnológica, los modelos más potentes y los experimentos capaces de producir saltos significativos de autonomía, ciberseguridad o autoaceleración de la investigación.

No implica necesariamente detener actualizaciones de productos cotidianos, abandonar asistentes de oficina o prohibir mejoras menores. La idea que empieza a abrirse paso es que la confianza en las medidas de seguridad marque progresivamente el ritmo del desarrollo y que determinados sistemas se frenen cuando el riesgo supere las salvaguardas disponibles.

Ese enfoque tiene más posibilidades que una moratoria universal indefinida, porque una prohibición mundial absoluta sería extremadamente difícil de conseguir y todavía más difícil de comprobar. Los llamados umbrales de capacidad permiten otra fórmula: mientras un modelo permanezca debajo de determinadas capacidades peligrosas, el desarrollo continúa; cuando las supera, aparecen evaluaciones y obligaciones adicionales.

Algo similar ocurre en industrias que llevan décadas conviviendo con tecnologías peligrosas. Un laboratorio escolar y una central nuclear no reciben la misma vigilancia simplemente porque ambos trabajen con física.

El gran interrogante está en quién fija esos umbrales y quién comprueba que se respetan. Si cada compañía escribe su propio examen, vigila al alumno y después entrega las notas, volvemos prácticamente al punto de partida.

La carrera necesita árbitros, no promesas

La posibilidad de que OpenAI desacelere sus sistemas más avanzados es creíble porque la empresa ya ha detenido temporalmente parte de su desarrollo ante problemas concretos. Lo difícil no es demostrar que OpenAI puede frenar. Lo difícil es conseguir que hacerlo no equivalga a regalar meses de ventaja a otro laboratorio estadounidense, chino o de cualquier otro país.

Y no, China no tiene ninguna obligación natural de aceptar las condiciones diseñadas en Silicon Valley. Del mismo modo, Estados Unidos tampoco aceptaría sin más un sistema de límites definido en Pekín. Cualquier régimen que pretenda durar necesitará reciprocidad, mecanismos de comprobación y reglas suficientemente simétricas para que ninguna potencia pueda presentarlo como una trampa tecnológica.

La cuestión económica tampoco puede borrarse del mapa. Estamos levantando centros de datos que cuestan fortunas, conectando cantidades descomunales de energía y financiando infraestructuras bajo la hipótesis de que la demanda de inteligencia artificial seguirá creciendo a toda velocidad. Una pausa afectaría a intereses financieros gigantescos. Precisamente por eso sería ingenuo dejar una decisión de semejante tamaño únicamente en manos de las compañías beneficiarias de la carrera.

Lo paradójico es que las advertencias más inquietantes están llegando desde dentro de esas mismas empresas. Puede interpretarse como responsabilidad tardía, como reconocimiento de que la tecnología empieza a entrar en territorio desconocido o como ambas cosas a la vez.

No hace falta confiar en ellas para tomarse la advertencia en serio. De hecho, quizá sea exactamente al revés: cuanto más poderosas se vuelven estas herramientas y más dinero depende de seguir avanzando, menos razonable resulta dejar el acelerador únicamente en manos de quienes compiten por llegar primero.