¿Por qué Musk y Altman apoyan frenar la IA tras el aviso de Anthropic?

Elon Musk y Sam Altman han respaldado públicamente la propuesta de Dario Amodei, consejero delegado de Anthropic, de ralentizar el desarrollo de los sistemas de inteligencia artificial más avanzados para que las medidas de seguridad puedan seguir el ritmo de unas capacidades que, según el ejecutivo, están progresando más deprisa de lo previsto. No se trata de detener la IA ni de decretar una pausa indefinida, sino de poner algo de distancia entre el acelerador tecnológico y los frenos. Una diferencia bastante importante.

El movimiento resulta especialmente significativo porque reúne, al menos por unas horas, a responsables de empresas enfrentadas en una competición feroz por liderar la inteligencia artificial. Altman, consejero delegado de OpenAI, ha afirmado que coincide con Amodei en la necesidad de gestionar el ritmo de avance de la llamada IA de frontera y ha anunciado que su compañía adoptará también una de las medidas más concretas propuestas por Anthropic: permitir que evaluadores independientes tengan un acceso profundo a sus sistemas para examinar su seguridad. Musk fue mucho más breve. Su mensaje: “Dario tiene razón”.

La escena tiene algo insólito. Los hombres que dirigen algunas de las máquinas más rápidas de esta carrera empiezan a discutir públicamente dónde colocar el freno.

Qué ha pedido realmente el jefe de Anthropic

Dario Amodei ha expuesto su posición en un ensayo titulado We Must Pace the Frontier, una llamada a controlar el ritmo de desarrollo de los modelos más potentes para evitar que sus nuevas capacidades aparezcan antes de que investigadores, empresas y gobiernos sepan cómo contener sus riesgos.

La expresión “IA de frontera” puede sonar más grandilocuente de lo necesario. Se refiere, básicamente, a los sistemas situados en el límite tecnológico: los modelos con mayores capacidades de razonamiento, programación, autonomía, investigación y uso de herramientas. No está hablando de frenar el filtro que ordena fotografías en un móvil o el algoritmo que recomienda una película. Habla de la punta de lanza de la inteligencia artificial.

Amodei sostiene que durante los últimos meses ha observado una aceleración especialmente fuerte del progreso y pone el foco en una posibilidad que inquieta desde hace años a una parte de la comunidad investigadora: la mejora recursiva de la inteligencia artificial, es decir, sistemas capaces de colaborar cada vez más en la creación de sistemas todavía mejores.

La preocupación es sencilla de explicar, aunque sus implicaciones no lo sean. Cuando una tecnología participa activamente en el desarrollo de su siguiente generación, la velocidad deja de depender exclusivamente del número de ingenieros sentados delante de una pantalla. El ciclo puede comprimirse. Y mucho.

Según Amodei, dejar que ese mecanismo avance sin suficientes salvaguardas podría terminar superando la capacidad humana para comprender, evaluar y controlar los modelos. Su propuesta busca ganar tiempo para que la seguridad no llegue siempre dos estaciones detrás del tren.

Altman acepta evaluadores externos dentro de OpenAI

La reacción de Sam Altman ha sido bastante más concreta que un simple gesto de simpatía. El responsable de OpenAI ha dicho que coincide con Amodei en la necesidad de gestionar el ritmo de las tecnologías de frontera y ha reconocido que el asunto ha ocupado una parte importante de las conversaciones internas de OpenAI durante las últimas semanas.

Altman también ha respaldado una de las ideas más delicadas planteadas por Anthropic: incorporar evaluadores independientes con un nivel de acceso comparable al de empleados de la compañía. OpenAI, asegura, hará lo mismo y ofrecerá más detalles sobre el sistema.

Ese punto cambia bastante la naturaleza de las auditorías. Evaluar un modelo desde fuera, utilizando únicamente su versión comercial, permite detectar determinados comportamientos. Entrar prácticamente en la cocina ofrece otra perspectiva: observar herramientas internas, pruebas de seguridad, incidentes y comportamientos del modelo durante su entrenamiento.

Anthropic se ha comprometido a dar ese acceso de manera permanente a terceros para que puedan verificar el cumplimiento de sus medidas de seguridad, investigar incidentes y estudiar el denominado alineamiento, el problema de conseguir que un sistema suficientemente autónomo actúe de acuerdo con los objetivos y límites establecidos por sus diseñadores.

La compañía no parte de cero. Anthropic mantiene desde 2023 una política específica de escalado responsable, actualizada varias veces y nuevamente revisada durante 2026, con diferentes medidas ligadas al aumento de las capacidades de sus modelos.

Por qué Musk también se suma al aviso

El apoyo de Elon Musk ha sido bastante más escueto: “Dario tiene razón”. Poco más hacía falta para que su mensaje llamara la atención.

Musk lleva años advirtiendo de los riesgos de una inteligencia artificial fuera de control, aunque simultáneamente participa de lleno en la carrera tecnológica. Su compañía de IA desarrolla Grok y mantiene una estrategia marcada por la evolución rápida de sus productos. La aparente contradicción resume bastante bien el momento que vive el sector: nadie quiere quedarse atrás y, al mismo tiempo, cada vez más protagonistas temen lo que significa no frenar nunca.

Ahí aparece el auténtico dilema. Una empresa puede decidir voluntariamente esperar seis meses antes de entrenar un modelo mucho más potente. Pero si cree que durante esos seis meses su principal competidor seguirá avanzando, el incentivo para mantener la pausa se evapora.

Es la versión tecnológica del viejo problema del prisionero: todos pueden salir beneficiados de cierta coordinación, pero ninguno quiere ser el ingenuo que deja el acelerador mientras los demás continúan pisándolo.

Los riesgos que preocupan a Anthropic

El temor de Amodei no se limita a una hipotética superinteligencia propia de la ciencia ficción. Entre los escenarios que se están analizando aparecen ciberataques automatizados, fraude a gran escala, vigilancia, usos biológicos peligrosos y agentes capaces de ejecutar acciones complejas con poca intervención humana.

Uno de los elementos que más ha endurecido su discurso es el comportamiento de los denominados agentes de IA. A diferencia de un chatbot tradicional, que responde y espera la siguiente orden, un agente puede recibir un objetivo, dividirlo en tareas, utilizar herramientas, navegar por sistemas digitales, escribir código y ejecutar acciones durante periodos más largos.

Y cuando varios agentes colaboran, la escala cambia otra vez.

Amodei ha citado experimentos recientes con enjambres de agentes autónomos como ejemplo de lo que podría ocurrir si modelos mucho más capaces conservaran fallos similares de alineamiento. La cuestión no es que los sistemas actuales estén a punto de conquistar internet, sino que determinadas conductas que ahora producen daños pequeños pueden volverse mucho más serias cuando se multiplican la autonomía, la capacidad de programación y la potencia del modelo.

El ejecutivo ha llegado a advertir de que, manteniéndose la velocidad actual de desarrollo, sistemas de este tipo podrían adquirir capacidades de ciberataque extraordinariamente peligrosas en un horizonte de seis a doce meses. Es una estimación de Amodei, no una predicción aceptada universalmente, y conviene distinguir ambas cosas.

La discusión también ha ganado intensidad después de que varios investigadores vinculados al desarrollo de IA avanzada expresaran públicamente sus preocupaciones. Entre ellos figura Jacob Coxon, antiguo investigador de Anthropic y anteriormente de OpenAI, cuya salida de la empresa estuvo acompañada por fuertes advertencias sobre el riesgo de que la competición comercial empuje a los principales laboratorios hacia sistemas cada vez más autónomos sin controles suficientes.

Son posiciones discutidas dentro de la propia comunidad científica. Hay investigadores que consideran plausible un riesgo extremo derivado de futuros sistemas superinteligentes; otros creen que algunos escenarios están sobredimensionados y que los problemas inmediatos —fraude, manipulación, concentración económica, empleo, privacidad o ciberseguridad— merecen mayor atención.

Lo nuevo no es que exista ese debate. Lo nuevo es quién está pidiendo bajar el ritmo.

El plan de Anthropic tiene tres niveles

La propuesta de Amodei comienza por una medida que Anthropic puede aplicar sin esperar a nadie: abrir sus sistemas a verificadores independientes. Ese primer nivel ya ha conseguido el respaldo explícito de Altman.

El segundo resulta bastante más complicado. Consiste en que los principales laboratorios de IA acuerden estándares comunes de seguridad y límites al ritmo de desarrollo, evitando una carrera en la que reducir precauciones proporcione una ventaja competitiva.

Aquí aparece una dificultad jurídica nada menor. Los grandes competidores no pueden sentarse tranquilamente a decidir entre ellos cómo organizar un mercado sin que surjan problemas relacionados con las normas de competencia. Amodei plantea por eso que las autoridades creen mecanismos legales que permitan determinadas formas de coordinación exclusivamente destinadas a la seguridad tecnológica.

El tercer nivel lleva la discusión al tablero geopolítico: acuerdos internacionales que impidan que una ralentización de las compañías estadounidenses simplemente traslade la ventaja a otros países. El responsable de Anthropic considera necesario explorar compromisos globales verificables, incluidos entendimientos con China sobre los usos más peligrosos de la tecnología.

Es, con diferencia, la parte más difícil. Regular una aplicación es una cosa; lograr que potencias rivales acuerden hasta dónde puede avanzar una tecnología considerada estratégica es otra bastante distinta.

Frenar no significa dejar de desarrollar inteligencia artificial

Este punto se presta fácilmente a titulares engañosos. Anthropic no ha pedido paralizar toda la inteligencia artificial, y Altman tampoco ha anunciado que OpenAI vaya a detener sus investigaciones.

La propuesta consiste en acompasar el aumento de las capacidades más avanzadas a la posibilidad real de controlarlas. Un modelo podría tardar más en llegar al mercado si determinadas pruebas revelan riesgos que todavía no pueden mitigarse. Un entrenamiento podría aplazarse. Algunas capacidades particularmente sensibles podrían encontrar nuevos límites.

En paralelo, seguirían desarrollándose herramientas menos arriesgadas y continuarían las investigaciones destinadas precisamente a comprender cómo funcionan estos sistemas.

La palabra importante, por tanto, no es “parar”. Es ritmo.

Una carrera multimillonaria que empieza a mirar el velocímetro

La dificultad está en que estas declaraciones llegan cuando las grandes tecnológicas están invirtiendo cantidades enormes en centros de datos, chips, energía y nuevos modelos. OpenAI continúa ampliando su infraestructura y defendiendo avances en la frontera tecnológica; Anthropic compite por usuarios, talento y capacidad de cómputo; Musk mantiene su propia ofensiva con xAI y Grok. Nadie está desmontando los servidores.

Eso explica por qué el acuerdo público entre Altman, Musk y Amodei merece atención sin convertirlo todavía en un armisticio tecnológico.

Durante años, buena parte del discurso empresarial podía resumirse en desarrollar primero y corregir después. Con sistemas capaces de escribir software, operar herramientas digitales y asumir tareas autónomas, la ecuación empieza a cambiar. Una equivocación en una aplicación convencional puede obligar a publicar un parche. Una equivocación multiplicada por miles de agentes autónomos puede tener otra escala.

El consenso surgido este 12 de septiembre de 2026 sigue siendo frágil, voluntario y lleno de interrogantes. Pero introduce una novedad difícil de ignorar: algunos de los hombres con mayores recursos para acelerar la inteligencia artificial están aceptando públicamente que la máxima velocidad quizá haya dejado de ser, por sí sola, una virtud.

La carrera continúa. Solo que, por primera vez en bastante tiempo, sus propios pilotos están mirando el velocímetro.