¿Por qué Pekín rechaza frenar la IA pese a las alertas de Anthropic?

Pekín ha rechazado el planteamiento del consejero delegado de Anthropic, Dario Amodei, porque considera que detrás de su llamada a ralentizar el desarrollo de la inteligencia artificial hay algo más que prudencia tecnológica: una estrategia para conservar la ventaja de Estados Unidos sobre China. El Gobierno chino sostiene que convertir la seguridad de la IA en una nueva batalla geopolítica perjudica precisamente la cooperación internacional que exige una tecnología de este calibre.

La discrepancia tiene un matiz importante. China no está diciendo que la inteligencia artificial carezca de riesgos ni que deba avanzar sin controles. De hecho, sus propios responsables de seguridad han reclamado reforzar la vigilancia sobre algoritmos, datos, capacidad de computación y aplicaciones civiles y militares. Lo que Pekín rechaza es una fórmula en la que Estados Unidos ralentice parcialmente a sus empresas mientras intenta dificultar el progreso tecnológico chino mediante restricciones a chips avanzados, equipos de fabricación de semiconductores y otras vías de acceso a modelos punteros.

Qué ha pedido realmente el CEO de Anthropic

Dario Amodei, cofundador y máximo responsable de Anthropic —la compañía que desarrolla Claude—, ha defendido que las grandes empresas reduzcan el ritmo al que aumentan las capacidades de sus modelos de IA más avanzados. Su argumento es que la inteligencia artificial está progresando con una velocidad que empieza a superar la capacidad de investigadores, compañías y gobiernos para comprender todos sus riesgos.

Amodei teme especialmente el desarrollo de sistemas capaces de intervenir de manera autónoma en entornos digitales y de contribuir a crear generaciones posteriores de inteligencia artificial. En su escenario más preocupante, una red de agentes suficientemente potente podría desencadenar ataques informáticos a gran escala, mientras otras aplicaciones avanzadas podrían facilitar actividades peligrosas relacionadas con armas biológicas o provocar graves alteraciones económicas.

No propone, pese a algunos titulares, apagar los centros de datos mañana por la mañana. Su concepto es el de pacing: acompasar el progreso, introducir controles antes de desplegar nuevas capacidades y permitir que evaluadores externos entren prácticamente hasta la cocina de los laboratorios de IA para comprobar que las medidas de seguridad se cumplen.

Anthropic se ha comprometido a aceptar ese tipo de evaluaciones independientes y Amodei quiere que otras compañías punteras hagan algo parecido. Sam Altman, responsable de OpenAI, y Elon Musk han respaldado de forma general la idea de moderar el ritmo de desarrollo, aunque eso no significa que compartan cada detalle de la propuesta de Anthropic.

El problema aparece cuando entra China

La parte que ha provocado la reacción de Pekín llega cuando Amodei intenta resolver el problema más incómodo de cualquier pacto para ralentizar la IA. Si las empresas estadounidenses pisan el freno y las chinas no lo hacen, razona, Washington podría perder su ventaja.

Su respuesta consiste en proteger primero esa diferencia tecnológica. Amodei defiende impedir que China acceda a determinados chips de inteligencia artificial y equipos avanzados para fabricar semiconductores, perseguir el contrabando o el acceso remoto a capacidad informática situada fuera del país y combatir lo que considera una utilización no autorizada de técnicas de destilación de modelos.

La destilación de modelos permite que un sistema más pequeño aprenda a partir de las respuestas o capacidades de otro mucho mayor. Es una herramienta conocida dentro de la industria; la discusión empieza cuando se utiliza para reproducir, sin autorización del propietario, prestaciones desarrolladas por sistemas comerciales. Y ahí la conversación tecnológica se convierte rápidamente en geopolítica.

Amodei calcula que unas restricciones eficaces podrían ensanchar la ventaja estadounidense durante los próximos tres a cinco años. Después plantea buscar acuerdos internacionales, incluida China, para limitar determinadas aplicaciones peligrosas o incluso controlar la velocidad de avance de los sistemas más potentes.

Desde Pekín, el orden de los factores resulta bastante revelador: primero dificultar que el rival avance, después sentarse con él para pactar cuánto debe correr. La diplomacia china no ha necesitado demasiada imaginación para detectar el problema.

Pekín acusa a EE. UU. de convertir la seguridad en contención

El portavoz del Ministerio chino de Exteriores, Guo Jiakun, respondió defendiendo una inteligencia artificial abierta, inclusiva y beneficiosa para todos. Según Pekín, extender discursos basados en la amenaza, la confrontación y la competencia hostil entorpece la gobernanza mundial de la IA en lugar de mejorarla.

La crítica ha sido todavía más dura en medios estatales chinos, donde el enfoque de Amodei ha sido presentado como una especie de guerra fría aplicada a la inteligencia artificial, al considerar que combina advertencias sobre seguridad global con propuestas destinadas expresamente a mantener a China varios peldaños por debajo de Estados Unidos.

La cuestión no es puramente retórica. Washington lleva años restringiendo la exportación a China de determinados aceleradores de IA y maquinaria para fabricar semiconductores sofisticados. Pekín, mientras tanto, ha convertido la autonomía tecnológica en una prioridad nacional y ha impulsado alternativas propias en chips, modelos y centros de datos.

Empresas como DeepSeek, Alibaba, Tencent, Moonshot AI y Zhipu han seguido desarrollando sistemas cada vez más competitivos pese a esas limitaciones. Parte de la estrategia china se ha apoyado precisamente en modelos abiertos, costes de uso reducidos y una utilización muy eficiente de una capacidad informática que, al menos en la gama más avanzada, continúa siendo más difícil de obtener que para sus rivales estadounidenses.

China también teme los riesgos de la inteligencia artificial

Aquí aparece la paradoja más interesante de toda la disputa. Pekín critica las alarmas estadounidenses, pero dentro de China tampoco reina precisamente la despreocupación.

Chen Yixin, ministro chino de Seguridad del Estado, ha descrito la inteligencia artificial como un nuevo terreno de rivalidad entre grandes potencias y ha pedido acelerar la creación de un sistema capaz de prevenir y gestionar sus riesgos. Entre los ámbitos señalados figuran los datos, los algoritmos, la infraestructura informática y las aplicaciones con posibles usos tanto civiles como militares.

El responsable de los servicios de seguridad chinos también ha advertido sobre la utilización de la IA en campañas de propaganda, operaciones de influencia y ataques informáticos capaces de afectar a la seguridad política e institucional del país.

El control humano, una línea compartida con Occidente

El propio presidente chino, Xi Jinping, ya había reclamado que la inteligencia artificial permaneciera bajo control humano. Es decir, Pekín y los directivos estadounidenses que están pidiendo más cautela no viven en universos completamente opuestos.

Ambos admiten que los sistemas avanzados pueden introducir riesgos difíciles de contener. El choque surge cuando toca decidir quién establece las reglas, cómo se verifican y, sobre todo, si esas normas pueden utilizarse también para bloquear el desarrollo tecnológico de un competidor.

Ahí se evapora buena parte del consenso. Seguridad sí; renunciar unilateralmente a capacidades estratégicas, bastante menos.

Chips, modelos y poder: lo que realmente está en juego

La carrera de la IA dejó hace tiempo de ser una competición para fabricar el chatbot que redacta mejor un correo. Los modelos avanzados pueden intervenir en ciberseguridad, investigación científica, inteligencia militar, robótica, diseño industrial y programación. Quien domine esas herramientas no obtiene únicamente una aplicación más atractiva: adquiere capacidad económica y estratégica.

Por eso los chips avanzados ocupan una posición central. Entrenar los modelos más potentes exige enormes cantidades de capacidad informática y semiconductores extremadamente sofisticados. Estados Unidos posee una ventaja considerable gracias a empresas como Nvidia y al control que Washington puede ejercer sobre parte de la cadena internacional de fabricación.

China intenta reducir esa dependencia. Cuanto más eficientes se vuelven sus modelos y cuanto más progresan sus fabricantes de semiconductores, menor es el efecto de las restricciones estadounidenses. La carrera se parece cada vez menos a una prueba de velocidad en pista limpia y más a una competición en la que los corredores intentan, simultáneamente, atarse los cordones unos a otros.

Una ralentización global es mucho más difícil de verificar

Incluso aceptando que Washington y Pekín quisieran pactar un límite, quedaría un problema enorme: comprobar que ambos cumplen.

Un acuerdo sobre determinados usos —por ejemplo, impedir que los modelos ayuden a desarrollar armas biológicas— parece relativamente imaginable. Mucho más complicado sería limitar la capacidad total de entrenamiento o la velocidad con la que cada país desarrolla modelos fronterizos.

Los programas militares pueden ser secretos, la capacidad informática puede distribuirse entre múltiples instalaciones y algunos avances dependen del software tanto como del número de chips disponibles. Un pacto de ralentización global de la IA necesitaría mecanismos de inspección y verificación extremadamente intrusivos. Algo parecido, salvando distancias, a los acuerdos de control armamentístico. Y ni China ni Estados Unidos muestran precisamente una afición desmedida a enseñar todas sus cartas.

Washington tampoco comparte una única posición

La discusión no enfrenta simplemente a Estados Unidos con China. Dentro del propio ecosistema estadounidense existe una fractura notable sobre cómo regular la IA.

Amodei defiende ralentizar las capacidades más peligrosas; otros responsables tecnológicos han expresado preocupaciones parecidas. El presidente estadounidense, Donald Trump, en cambio, ha rechazado que una regulación excesiva termine dando ventaja a Pekín y ha insistido en que Estados Unidos debe mantener su liderazgo.

Así aparece una contradicción difícil de esconder: la misma China sirve como argumento para frenar y para acelerar. Los partidarios de una pausa sostienen que hace falta controlar los riesgos antes de que los sistemas sean demasiado poderosos; quienes se oponen responden que hacerlo permitiría a China adelantarse.

Amodei trata de resolver el dilema defendiendo controles contra Pekín antes de ralentizar seriamente el desarrollo estadounidense. China interpreta precisamente esa propuesta como la demostración de que el debate sobre seguridad está contaminado por intereses nacionales y empresariales.

Probablemente ambas lecturas contengan una parte de verdad. Los riesgos tecnológicos existen y ya preocupan a gobiernos y laboratorios de los dos países. También existe una pugna comercial gigantesca por controlar una industria que puede condicionar varias décadas de crecimiento económico. Pensar que una cosa borra la otra sería bastante cómodo. Demasiado.

La IA entra definitivamente en la política de bloques

La respuesta china a Anthropic revela hasta qué punto la inteligencia artificial ha pasado de los laboratorios a la política internacional de grandes potencias. Los desacuerdos ya no giran únicamente alrededor de qué modelo responde mejor o cuánto cuesta entrenarlo, sino sobre chips, soberanía tecnológica, seguridad nacional y equilibrio militar.

Pekín no rechaza la necesidad de gobernar los riesgos de la IA. Rechaza que Estados Unidos pueda presentarse como árbitro de esa seguridad mientras propone limitar simultáneamente el acceso chino a la tecnología que determina quién estará en cabeza.

El problema de fondo permanece intacto. Una inteligencia artificial cada vez más capaz puede necesitar reglas compartidas precisamente cuando Estados Unidos y China confían menos el uno en el otro. Y cualquier pacto serio tendrá que resolver una contradicción bastante áspera: nadie quiere una carrera sin frenos, pero tampoco parece dispuesto a frenar antes que su rival.

Ese, más que ningún algoritmo, es ahora mismo el código difícil de descifrar.