¿Puede la inteligencia artificial acabar con la humanidad de verdad?

La idea de que una inteligencia artificial fuera de control pueda acabar con la humanidad ha vuelto a instalarse en el centro del debate tecnológico. Timnit Gebru, una de las investigadoras más conocidas —y más incómodas— del sector, sostiene que se está mirando demasiado hacia ese hipotético fin del mundo y demasiado poco hacia problemas que la inteligencia artificial ya está provocando o agravando: armas autónomas, pérdida de empleos, concentración de poder, sesgos algorítmicos y un consumo creciente de recursos.

Su tesis no consiste exactamente en afirmar que cualquier riesgo futuro sea imposible. El reproche es otro, y bastante más terrenal: presentar la IA como una especie de criatura que podría independizarse de sus creadores desplaza el foco desde las empresas, sus decisiones y sus responsabilidades hacia una máquina casi mitológica. Mientras media industria discute cómo evitar que una superinteligencia decida exterminarnos dentro de diez años, Gebru pregunta qué ocurre con las decisiones humanas que se están tomando en el presente.

Timnit Gebru entra en plena batalla por el riesgo de la IA

Las declaraciones llegan en un momento peculiar. No faltan razones para que el debate sobre la seguridad de la inteligencia artificial haya subido varios grados de temperatura.

Jacob Coxon, investigador que había trabajado en Anthropic y anteriormente en OpenAI, abandonó públicamente la compañía después de advertir sobre los riesgos que, a su juicio, entraña la carrera hacia sistemas cada vez más autónomos y potentes. Evan Hubinger, miembro técnico de Anthropic, expresó también una estimación superior al 10% para la posibilidad de una catástrofe provocada por la IA durante la próxima década. El 15 de septiembre se añadió otra voz: Bilal Chughtai, antiguo investigador de Google DeepMind, volvió a alertar públicamente sobre un posible riesgo existencial asociado a sistemas avanzados.

No estamos, pues, ante una discusión inventada únicamente para las redes sociales. Investigadores con experiencia directa en algunos de los laboratorios más avanzados consideran seriamente posibles escenarios de pérdida de control. También responsables de compañías como Anthropic han pedido reducir la velocidad de la carrera tecnológica y reforzar mecanismos de seguridad.

Gebru coloca el bisturí justo ahí. Para ella, que alguien crea sinceramente en un peligro no convierte automáticamente ese peligro en el asunto que debería dominar toda la conversación pública. Su crítica apunta al orden de prioridades.

Hay riesgos hipotéticos de enorme gravedad y daños presentes que pueden observarse, medirse y atribuirse. Mezclarlos en el mismo saco hace que la discusión se vuelva espectacular —robots rebeldes, superinteligencias, extinción humana— pero también, según su lectura, mucho menos útil para entender los problemas actuales.

Del robot que se rebela a quienes construyen el sistema

Gebru utiliza una comparación deliberadamente sencilla. Cuando un puente se derrumba, nadie se pregunta por qué el puente decidió hacerlo. Se examina quién lo proyectó, qué materiales se utilizaron, qué controles fallaron y quién autorizó su construcción.

Su ejemplo condensa la idea: un puente no necesita decidir derrumbarse para provocar una tragedia. La cuestión relevante está en las condiciones que llevaron al fallo y en las responsabilidades de quienes diseñaron y gestionaron la infraestructura.

El paralelismo sirve para desmontar una manera cada vez más habitual de hablar sobre inteligencia artificial: atribuir al sistema una voluntad casi humana. Modelos que “engañan”, “quieren escapar”, “se rebelan” o “deciden” perseguir determinados objetivos. Es un lenguaje eficaz. Casi cinematográfico. Pero puede ocultar algo mucho menos emocionante: detrás siguen existiendo empresas que diseñan modelos, seleccionan datos y establecen objetivos, además de decidir dónde implantarlos y cuánto riesgo consideran aceptable.

Para Gebru, la responsabilidad no debería evaporarse dentro del algoritmo.

Eso tampoco significa que un sistema automatizado no pueda provocar resultados imprevistos o extremadamente peligrosos. Puede hacerlo. La diferencia está en cómo se formula el problema. Una infraestructura tecnológica defectuosa no necesita conciencia, intención ni maldad para causar daños enormes; basta con desplegarla a gran escala, conectarla a ámbitos sensibles y equivocarse donde no había demasiado margen para equivocarse.

Qué daños de la inteligencia artificial preocupan a Gebru

El núcleo del argumento aparece cuando la investigadora abandona las hipótesis sobre una futura superinteligencia y señala problemas mucho más reconocibles. Uno es el uso militar de sistemas autónomos.

La inteligencia artificial ya forma parte de tecnologías capaces de identificar objetivos, procesar información militar, apoyar operaciones y acelerar decisiones que pueden terminar teniendo consecuencias físicas. Para Gebru, hablar durante horas sobre una máquina imaginaria que algún día podría matar seres humanos mientras la automatización entra en sistemas bélicos reales produce una paradoja difícil de ignorar.

También está el impacto ambiental. Entrenar y operar grandes modelos exige centros de datos, electricidad y agua para refrigeración, además de una infraestructura física gigantesca. El “cerebro” artificial, visto desde fuera, parece una nube; visto desde dentro, se parece bastante más a kilómetros de servidores encendidos, ventiladores, tuberías y líneas eléctricas.

Gebru conecta esa expansión con otra cuestión: quién paga realmente el coste de la IA. Los beneficios tecnológicos pueden concentrarse en determinadas compañías mientras una parte de las externalidades —energía, agua, empleo precario, extracción de materias primas— queda repartida por lugares mucho menos visibles.

El trabajo es otro frente. La investigadora cuestiona la facilidad con la que algunas empresas utilizan la inteligencia artificial para justificar reducciones de plantilla o reestructuraciones incluso cuando resulta difícil determinar qué porcentaje del empleo eliminado ha sido sustituido realmente por máquinas. La IA puede aumentar la productividad; convertir cualquier despido en consecuencia inevitable de la automatización es otra historia.

Una discusión vieja escondida dentro de una tecnología nueva

El enfrentamiento intelectual de Gebru con buena parte de Silicon Valley no empezó con ChatGPT ni con la actual fiebre por la superinteligencia. En 2020 protagonizó una sonada salida de Google después de un conflicto alrededor de una investigación sobre los grandes modelos de lenguaje. Gebru sostuvo que había sido despedida; Google mantuvo que había dimitido.

El episodio estalló después de que la compañía pidiera retirar o modificar un trabajo académico que examinaba problemas asociados a estos modelos. El artículo terminó publicándose en 2021 bajo un título convertido desde entonces en referencia académica: On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?

Sus autoras, entre ellas Gebru y la lingüista Emily M. Bender, analizaban aspectos como los sesgos de los datos, los costes ambientales y la opacidad del entrenamiento, además de la facilidad con la que un modelo puede producir lenguaje convincente sin comprenderlo como lo hace una persona.

La expresión “loro estocástico” quedó para la posteridad. Un modelo lingüístico puede generar secuencias extraordinariamente convincentes mediante patrones estadísticos sin que eso implique necesariamente una mente detrás de las palabras.

Cinco años después, los sistemas son incomparablemente más capaces. La controversia, sin embargo, conserva un aire familiar: hasta qué punto deberíamos describir estas máquinas mediante categorías humanas como inteligencia, intención, voluntad o comprensión.

La batalla de las matemáticas también entra en la discusión

La entrevista a Gebru aparece además después de otra polémica que sacudió el sector: el uso de inteligencia artificial en torno a un importante problema matemático y la discusión sobre el reconocimiento de investigaciones anteriores.

Para Gebru, el interés de las tecnológicas por exhibir resultados en matemáticas, programación o juegos como el ajedrez no es casual. Son disciplinas con respuestas relativamente fáciles de presentar como demostraciones objetivas de capacidad: el problema se resuelve o no, el programa funciona o falla, la partida se gana o se pierde.

De ahí nace una tentación comunicativa formidable: convertir un logro concreto en prueba de “inteligencia” general.

La investigadora cuestiona ese salto. Resolver un problema matemático extremadamente complejo puede representar un avance técnico enorme sin demostrar, por sí solo, que un sistema posea todas las capacidades que asociamos con una inteligencia humana general. Y la presión comercial añade otra capa: en un sector donde se disputan inversión, prestigio, contratos y futuras operaciones financieras, anunciar primero un gran descubrimiento vale mucho.

Aquí aparece una cuestión menos futurista pero quizá más urgente: cuánto tiempo existe entre el comunicado espectacular de una empresa y la comprobación independiente de lo ocurrido.

La ciencia suele caminar con zapatillas. El marketing tecnológico, en cambio, lleva moto.

El desacuerdo real: qué significa hacer una IA segura

Hay un detalle importante que evita caricaturizar el debate. Gebru y los investigadores preocupados por una posible catástrofe comparten algo esencial: creen que el desarrollo actual de la inteligencia artificial plantea riesgos serios.

Lo que cambia profundamente es la naturaleza del riesgo. Una corriente pone el acento en sistemas futuros extremadamente capaces que podrían perseguir objetivos incompatibles con los intereses humanos, manipular personas, atacar infraestructuras o impedir que sus operadores recuperasen el control. De ahí conceptos como “alineamiento”: lograr que un sistema avanzado actúe de acuerdo con objetivos y límites humanos.

Gebru mira en otra dirección. Considera problemático que esa agenda acabe relegando cuestiones como la discriminación algorítmica, la explotación laboral, la vigilancia y la militarización, además del poder acumulado por un puñado de empresas.

No son preocupaciones mutuamente excluyentes. Una IA podría generar daños presentes y, al mismo tiempo, plantear riesgos nuevos en el futuro. El choque aparece cuando hay que repartir atención, dinero, investigadores y regulación. Ahí deja de ser una conversación filosófica y se convierte en una disputa por prioridades.

Y por poder.

Hay otra paradoja que sobrevuela toda esta discusión. Cuanto más extraordinariamente poderosa parece una tecnología, más extraordinariamente importantes parecen quienes la controlan. Decir que una empresa desarrolla una herramienta capaz de resumir correos electrónicos resulta útil, aunque poco épico. Decir que trabaja en una inteligencia que podría superar a toda la humanidad cambia la escena por completo: la compañía deja de fabricar software y pasa, casi sin pedir permiso, a administrar el futuro de la civilización.

Gebru sospecha de esa narrativa. Su crítica no necesita asumir que los ejecutivos o investigadores que hablan de catástrofes estén fingiendo. Una persona puede creer sinceramente en un determinado riesgo y, al mismo tiempo, participar en un ecosistema empresarial que obtiene poder, capital y centralidad política de la percepción de que su tecnología será revolucionaria.

Esa tensión explica por qué el debate resulta tan extraño. Las mismas empresas que compiten por fabricar sistemas cada vez más potentes son, con frecuencia, las que advierten de lo extremadamente potentes que podrían llegar a ser.

Timnit Gebru obliga a mirar dónde está el poder

La historia personal de Gebru ayuda a entender por qué insiste tanto en esa cuestión. Tras su etapa en Google fundó el Distributed Artificial Intelligence Research Institute, DAIR, una organización centrada en estudiar los efectos sociales de la inteligencia artificial desde fuera de las grandes tecnológicas.

También prepara Deep Unlearning, un libro previsto para 2027 en el que recorre su trayectoria y desarrolla su crítica a la cultura que ha acompañado al auge reciente de la IA.

Su intervención llega justo cuando la industria discute con creciente intensidad hasta dónde pueden avanzar los modelos y cuándo podría aparecer una inteligencia superior a la humana. Nadie dispone de una respuesta demostrada. Tampoco existe consenso científico sobre la probabilidad de una extinción provocada por IA, y las estimaciones personales de investigadores no equivalen a una medición empírica del riesgo.

Lo verificable está más cerca. Los modelos se están implantando en empresas, administraciones, ejércitos, sistemas educativos y millones de puestos de trabajo, mientras la capacidad para auditarlos y exigir responsabilidades continúa intentando alcanzar a una tecnología que corre deprisa.

Gebru propone cambiar la cámara de sitio. Menos plano general del apocalipsis y más primer plano sobre quienes construyen, financian y despliegan estas herramientas.

La inteligencia artificial del futuro podría plantear preguntas enormes. La del presente ya plantea unas cuantas. Y quizá esa sea la parte más incómoda de su argumento: para discutir muchas de ellas no hace falta esperar a que aparezca una máquina todopoderosa. Hace falta mirar a las personas que ya tienen el poder.