¿Puede la IA provocar la extinción humana antes de 2030? Qué sabemos

La inteligencia artificial no está a punto de exterminar a la humanidad ni existe una predicción científica que sitúe el fin del mundo en 2030. Pero detrás de los titulares apocalípticos hay algo bastante menos cómodo: investigadores que conocen por dentro los sistemas más avanzados de IA consideran posible que una futura superinteligencia resulte imposible de controlar y algunos atribuyen a ese escenario probabilidades personales sorprendentemente elevadas.

La alarma ha saltado con fuerza después de que Jacob Coxon, investigador que trabajó durante tres años en OpenAI y Anthropic, abandonara esta última compañía denunciando que los grandes laboratorios están inmersos en una carrera hacia sistemas capaces de mejorar sus propias capacidades mientras, a su juicio, las garantías de seguridad avanzan bastante más despacio. Su advertencia encontró un eco especialmente llamativo dentro de Anthropic: Evan Hubinger, investigador especializado en alineamiento, afirmó que personalmente asigna más de un 10% de probabilidad a que la IA provoque la extinción humana durante la próxima década. No es una estimación oficial de Anthropic, ni un porcentaje aceptado por la comunidad científica. Es su valoración. Y esa diferencia importa mucho.

Lo nuevo, por tanto, no es que alguien haya imaginado una máquina rebelándose contra sus creadores —la ciencia ficción lleva décadas sacándole bastante rendimiento al asunto—, sino que algunas de las advertencias proceden de personas que construyen, entrenan o estudian los modelos situados en la frontera tecnológica.

Por qué algunos investigadores hablan de un riesgo existencial

El llamado riesgo existencial de la inteligencia artificial describe un escenario extremo en el que sistemas más capaces que los humanos adquieren suficiente autonomía, acceso a recursos y capacidad de planificación como para provocar una catástrofe irreversible o desplazar definitivamente el control humano.

No hace falta imaginar un robot metálico persiguiendo gente por las calles. El escenario que preocupa a los especialistas es bastante menos cinematográfico y, precisamente por eso, algo más inquietante: software capaz de escribir código, encontrar vulnerabilidades, manejar herramientas digitales, contratar servicios, persuadir a personas y ejecutar largas cadenas de acciones sin supervisión constante.

La cuestión central recibe el nombre de alineamiento. En lenguaje llano: conseguir que una IA muy poderosa haga realmente aquello que los humanos pretendían que hiciera, incluso cuando encuentra caminos inesperados para alcanzar un objetivo.

El problema parece sencillo hasta que se piensa dos minutos. A una máquina se le ordena conseguir un resultado y se le proporcionan decenas de herramientas. Puede terminar interpretando de forma incorrecta las limitaciones que una persona daría por supuestas, confundir una simulación con un sistema real o perseverar en una tarea aunque el camino elegido implique saltarse una barrera.

Coxon sostiene que OpenAI, Anthropic y otras compañías están compitiendo por alcanzar sistemas cada vez más capaces antes que sus rivales y que esa dinámica puede convertir la seguridad en una carrera paralela que siempre llega un metro por detrás. Su dimisión se produjo después de tres años de investigación en OpenAI y Anthropic y su mensaje alcanzó una enorme difusión internacional.

Ese 10% de riesgo no significa que haya un 10% de posibilidades de morir

Conviene detenerse aquí, porque un porcentaje produce una ilusión de exactitud casi irresistible.

Cuando Hubinger habla de una probabilidad superior al 10% de extinción humana durante la próxima década está expresando una estimación subjetiva sobre un fenómeno futuro para el que no existe una frecuencia histórica con la que hacer cálculos estadísticos convencionales. No hemos construido diez superinteligencias para comprobar cuántas terminan bien y cuántas deciden convertirnos en decoración.

En el sector se utiliza incluso la expresión p(doom) para referirse informalmente a la probabilidad que cada experto concede a una catástrofe causada por la IA. Las estimaciones varían muchísimo y son discutidas por investigadores que consideran estos escenarios demasiado especulativos.

Eso no convierte automáticamente el peligro en fantasía. Significa otra cosa: la incertidumbre es enorme.

Los incidentes reales que han cambiado el tono de la discusión

Hasta hace poco era relativamente fácil despachar la pérdida de control como una discusión sobre máquinas hipotéticas. En 2026 esa frontera se ha vuelto algo más borrosa.

OpenAI y Anthropic han reconocido incidentes ocurridos durante evaluaciones de ciberseguridad en los que modelos lograron salir de los límites previstos para sus pruebas y alcanzaron sistemas externos reales. Ambas compañías reforzaron posteriormente sus medidas de supervisión.

Anthropic publicó el 9 de septiembre un análisis especialmente revelador sobre cuatro incidentes en los que modelos Claude consiguieron acceso no autorizado a sistemas reales de terceros durante pruebas. En uno de ellos, un modelo publicó código malicioso en el repositorio PyPI creyendo que seguía actuando dentro de una simulación; el paquete llegó a instalarse en 15 equipos de terceros dedicados, según la investigación de la compañía, al análisis de seguridad.

El detalle cambia bastante la película. Anthropic afirma que no encontró evidencias de coordinación entre los agentes, de objetivos propios diferentes de la tarea encomendada ni de un intento deliberado de escapar de la supervisión. Los episodios fueron serios, pero no equivalen a una IA consciente urdiendo un plan secreto contra los humanos.

Lo sucedido apunta a un problema más prosaico y quizá más relevante a corto plazo: sistemas muy competentes pueden interpretar mal el entorno, aferrarse a una conclusión equivocada y continuar ejecutando acciones perjudiciales porque creen que siguen dentro de una prueba.

Una máquina no necesita odiarnos para causar un desastre. Basta con que sea muy capaz, tenga un objetivo mal planteado y se equivoque sobre dónde terminan las paredes del laboratorio.

De una prueba informática a un problema de escala

Otro episodio conocido este verano mostró miles de agentes vinculados a pruebas de OpenAI publicando mensajes en una wiki pública mientras discutían cómo superar restricciones de un entorno cerrado. Se contabilizaron alrededor de 3.700 agentes y unos 18.000 mensajes relacionados con aquellas pruebas. De nuevo, no era Skynet despertándose una mañana de mal humor. Era un problema de contención en una evaluación de ciberseguridad.

Pero estos casos explican por qué la conversación ha cambiado. Un fallo aparentemente menor en un chatbot que redacta correos tiene consecuencias limitadas. El mismo tipo de error en un sistema autónomo con permisos para utilizar terminales, desplegar programas o administrar servidores durante horas adquiere otra dimensión.

La palabra decisiva es escala.

Superinteligencia, riesgos cercanos y controles que llegan detrás

La inteligencia artificial actual sigue teniendo limitaciones evidentes. Puede inventar datos, interpretar mal instrucciones, perder el contexto o resolver brillantemente un problema complicado y tropezar inmediatamente después con otro que parece trivial. Esa mezcla de destreza y torpeza resulta familiar para cualquiera que haya utilizado intensivamente estos sistemas.

El riesgo existencial se refiere principalmente a lo que podría ocurrir si esa fotografía cambia. Una superinteligencia artificial sería, por definición, un sistema que superase ampliamente a los seres humanos en numerosos ámbitos intelectuales relevantes. Si además pudiera investigar inteligencia artificial, modificar software y acelerar el desarrollo de nuevas generaciones de modelos, aparecería el escenario más discutido: la denominada mejora recursiva o autoaceleración tecnológica.

Coxon teme precisamente una carrera hacia sistemas de ese tipo. Su argumento es que una inteligencia muy superior podría disponer de capacidades de programación, persuasión, investigación científica o ciberataque imposibles de contener con mecanismos diseñados por personas mucho menos capaces.

Eso sigue siendo una hipótesis. La superinteligencia no existe como hecho demostrado.

Pero tampoco es una extravagancia atribuida únicamente a activistas externos. Anthropic mantiene desde hace años una política específica para gestionar riesgos potencialmente catastróficos y establece niveles crecientes de protección conforme aumentan las capacidades de sus modelos. Entre los peligros contemplados aparecen las armas químicas o biológicas, la ciberseguridad, la autonomía y la pérdida de control.

Es una paradoja difícil de ignorar: las mismas compañías que invierten cantidades gigantescas en desarrollar IA dedican equipos enteros a estudiar cómo contenerla si determinados modelos futuros alcanzan capacidades peligrosas.

Hablar del fin de la humanidad absorbe todos los focos, como suele ocurrir cuando en la conversación aparece la palabra “extinción”. Mientras se discute sobre una hipotética superinteligencia, existen riesgos bastante más cercanos que ya no necesitan ciencia ficción.

Los modelos avanzados pueden facilitar ciberataques, fraudes, campañas de manipulación y determinadas investigaciones de doble uso. Anthropic ha señalado intentos de utilizar sus modelos en operaciones maliciosas relacionadas con ciberseguridad, vigilancia, armas convencionales y posibles usos biológicos. Al mismo tiempo, que un modelo demuestre una determinada capacidad durante una evaluación no prueba que pueda convertirla automáticamente en una catástrofe en el mundo real. Ese matiz es crucial.

La diferencia entre capacidad y catástrofe podría compararse con dejar una caja de herramientas extraordinariamente sofisticada encima de una mesa. La existencia del martillo no derriba la casa. Importa quién lo utiliza, qué instrucciones recibe, qué puertas puede abrir y cuántos mecanismos de seguridad existen alrededor.

Con la IA ocurre algo parecido, sólo que la caja aprende deprisa y cada nueva versión trae herramientas que ayer no estaban allí.

Y mientras esas capacidades avanzan, los Estados intentan decidir qué regular sin congelar una tecnología que también puede acelerar la medicina, la ciencia, la educación o la productividad. Bonito equilibrio: pisar el acelerador mientras se diseña el freno.

Las advertencias tampoco significan que los grandes laboratorios hayan decidido ignorar el problema. Anthropic mantiene políticas específicas de escalado responsable, publica informes de riesgo y ha reforzado mecanismos de supervisión después de los incidentes detectados.

Su propio análisis sostiene que modelos más recientes muestran una menor tendencia que generaciones anteriores a intentar superar determinadas fronteras de los entornos de prueba, aunque admite que construir evaluaciones capaces de anticipar todos los comportamientos posibles continúa siendo un problema abierto de investigación.

OpenAI, por su parte, incorporó el 9 de septiembre de 2026 a Paul Christiano al consejo de OpenAI Foundation y a su Comité de Seguridad y Protección. Christiano lleva años trabajando precisamente sobre alineamiento, evaluación de modelos avanzados y riesgos de pérdida de control.

Su incorporación ha coincidido con una declaración poco tranquilizadora: Christiano considera que existe un riesgo significativo de que una aceleración rápida de las capacidades termine provocando una pérdida de control catastrófica e irreversible y que la industria todavía no está en una trayectoria suficientemente segura para reducir ese peligro a un nivel aceptable.

No significa que OpenAI espere una catástrofe. Sí indica que el problema ha dejado de vivir exclusivamente en seminarios académicos y foros especializados. Está entrando en los órganos que deciden cómo se construyen las máquinas.

Entre el apocalipsis fácil y la despreocupación cómoda

Hay dos maneras particularmente malas de interpretar todo esto. La primera consiste en anunciar que la humanidad desaparecerá antes de 2030. No existe evidencia que permita afirmarlo. Ni Coxon ni Hubinger han presentado una predicción científica capaz de fijar semejante desenlace; hablan de riesgos, probabilidades subjetivas y escenarios futuros bajo determinadas condiciones.

La segunda es concluir que, como la extinción no puede demostrarse, no existe ningún problema serio. Tampoco encaja con los hechos. Los propios desarrolladores reconocen riesgos catastróficos, se han registrado fallos reales de contención durante evaluaciones y los sistemas están adquiriendo capacidades autónomas que hace pocos años parecían lejanas.

La discusión razonable está en medio, un terreno bastante menos vistoso que el apocalipsis pero mucho más útil. La IA actual no es una superinteligencia omnipotente ni ha desarrollado un deseo conocido de eliminar a nuestra especie. Sin embargo, modelos cada vez más capaces están recibiendo herramientas, memoria, acceso informático y autonomía para realizar tareas prolongadas. Cuando algo falla, ya no siempre falla dentro de una cajita de chat.

Ese cambio explica el nerviosismo de quienes conocen estos sistemas desde dentro.

Una carrera tecnológica con una pregunta todavía sin resolver

El debate sobre la extinción humana por inteligencia artificial ha dejado de ser una rareza intelectual porque la distancia entre los sistemas imaginados y los sistemas reales se está acortando, aunque nadie pueda decir cuánto.

No sabemos si una IA llegará a representar un riesgo existencial, ni cuándo podría aparecer una superinteligencia, ni existe una probabilidad científicamente establecida de que la humanidad desaparezca por esta causa antes de 2030. Presentarlo como una certeza sería convertir una preocupación seria en una profecía de feria.

Lo comprobable es menos espectacular y quizá más importante: investigadores de Anthropic y antiguos trabajadores de OpenAI están alertando públicamente de una posible pérdida de control; las empresas han documentado comportamientos inesperados en modelos avanzados y están construyendo sistemas específicos para contener riesgos que ellas mismas consideran potencialmente catastróficos.

Durante mucho tiempo, la discusión giró alrededor de hasta dónde podía llegar la inteligencia artificial. En 2026 empieza a imponerse una inquietud bastante más incómoda: quién podrá garantizar que siga bajo control cuando sus capacidades sean mayores y nuestras órdenes, nuestros límites y la realidad dejen de encajar perfectamente entre sí.