El pacto militar de Google reabre el debate sobre la IA

Google ha autorizado al Pentágono a utilizar sus modelos de inteligencia artificial en redes clasificadas para fines gubernamentales lícitos. El acuerdo incluye límites frente a la vigilancia masiva dentro de Estados Unidos y las armas autónomas sin supervisión humana adecuada, pero también deja al Gobierno margen para decidir cómo emplea la tecnología en operaciones legales. El riesgo no se limita a que una máquina dispare por su cuenta: también importa cómo la IA organiza información y puede influir en decisiones militares.

El pacto llega después de que más de 600 trabajadores pidieran a Sundar Pichai que frenara la colaboración clasificada. La inquietud recupera una fractura conocida en Google, la que provocó el Proyecto Maven en 2018, y plantea una cuestión difícil de resolver desde fuera: si el sistema trabaja en secreto, ¿quién puede comprobar que los límites acordados se respetan? La distancia entre una herramienta de análisis y una pieza de una operación puede ser mucho menor de lo que sugiere la palabra asistencia.

Qué permite el acuerdo y qué límites declara

Los reportes sobre el pacto describen una autorización para que el Departamento de Defensa use los modelos de Google en entornos clasificados y para cualquier propósito gubernamental lícito. La fórmula es amplia: no concreta en público una lista cerrada de tareas ni permite saber qué aplicaciones se han puesto ya en marcha. Google, según la información publicada, colaboraría en adaptar la configuración y los filtros de seguridad de sus sistemas a las necesidades del Gobierno. Eso abre la puerta a usos sensibles, pero no demuestra por sí solo que el modelo participe en una operación de combate.

Entre las restricciones mencionadas figura que la IA no está destinada a la vigilancia masiva nacional ni al desarrollo de armas completamente autónomas sin supervisión y control humanos adecuados. Son límites relevantes porque señalan dos de los temores más visibles: que la tecnología sirva para seguir de forma indiscriminada a la población y que un sistema seleccione y ataque objetivos sin intervención humana suficiente. Sin embargo, las descripciones disponibles no detallan los mecanismos técnicos de control ni cómo se verificaría cada uso. Una cláusula define una frontera; la auditoría y la aplicación determinan si esa frontera funciona.

También se ha informado de que el acuerdo no permitiría a Google vetar decisiones operativas legales del Gobierno. El alcance jurídico de esa condición no queda explicado con suficiente detalle en la información pública, por lo que no conviene presentarla como una certeza absoluta sobre todos los controles del contrato. Sí muestra la tensión central: la empresa establece límites de uso, mientras que el Estado reclama capacidad para decidir dentro de la ley. La palabra legal no equivale automáticamente a inocuo ni responde a quién controla el cumplimiento en una red secreta.

El peligro puede aparecer antes del disparo

La imagen de un robot autónomo que identifica a una persona y abre fuego concentra el debate, pero deja fuera muchas formas menos espectaculares de influencia. Un modelo puede resumir informes, ordenar grandes volúmenes de documentos, traducir comunicaciones, comparar versiones de inteligencia o ayudar a localizar patrones en datos. Son tareas de apoyo, no necesariamente decisiones sobre el uso de la fuerza. Aun así, en una cadena militar, la información que se destaca y la que queda relegada puede orientar lo que una persona considera importante.

Si una herramienta clasifica alertas o cruza fuentes, su resultado puede influir en qué zona se observa, qué informe se revisa primero o qué hipótesis recibe más atención. Eso no significa que Google vaya a emplear Gemini para seleccionar objetivos: la información disponible no confirma ese uso concreto. Significa que el riesgo de una tecnología militar no depende únicamente de si controla un arma. También puede nacer cuando sus recomendaciones alimentan decisiones posteriores. La influencia puede ser indirecta y, precisamente por eso, difícil de reconocer en el resultado final.

Los modelos pueden equivocarse, omitir matices o presentar una inferencia con una seguridad que no merece. En tareas ordinarias, un resumen incompleto puede ser una molestia; en un contexto operativo, la misma clase de error podría distorsionar la lectura de una situación. El problema no es atribuir a la IA una intención propia, sino entender que sus salidas pueden adquirir autoridad por la velocidad, la escala o la apariencia de precisión con que se producen. La revisión humana solo protege si quien revisa dispone de tiempo, información y capacidad real para cuestionar el resultado.

La supervisión humana no garantiza por sí sola el control

La presencia de una persona en el proceso suele presentarse como una salvaguarda frente a las armas autónomas. Pero supervisar no es un acto único: puede significar comprobar cada recomendación con detenimiento o limitarse a aprobar una propuesta generada por un sistema. La diferencia depende de cómo esté diseñado el procedimiento, de la formación del operador y de la presión del entorno. Un humano en el circuito no asegura que exista una decisión humana sustantiva.

Cuando un modelo procesa más información de la que una persona puede revisar directamente, la supervisión puede convertirse en una confianza práctica en la máquina. El operador conserva formalmente la autoridad, pero quizá no tenga acceso a las razones completas que llevaron a una conclusión ni tiempo para reconstruirlas. En una red clasificada, además, la actividad puede quedar fuera del escrutinio público habitual. Los datos disponibles sobre el acuerdo no describen cómo se resolverán estas cuestiones en cada aplicación. Sin trazabilidad, resulta difícil saber qué recomendó el sistema y qué comprobó quien tomó la decisión.

Por eso, la expresión control humano necesita algo más que una declaración general. Importan los registros de uso, las pruebas previas, la posibilidad de revisar errores y la claridad sobre quién responde por cada etapa. No hay información suficiente para afirmar qué auditorías concretas contempla este pacto ni con qué frecuencia se realizarían. Esa falta de detalle no prueba que no existan controles, pero sí limita lo que puede comprobarse desde fuera. La transparencia disponible es parte de la evaluación del riesgo, no un detalle secundario.

Por qué preocupa que el trabajo sea clasificado

La clasificación protege información que el Gobierno considera sensible, pero también dificulta que empleados, investigadores independientes y ciudadanos conozcan cómo se usa una tecnología. Los trabajadores que firmaron la carta a Pichai sostienen que, si Google acepta cargas de trabajo secretas, quienes desarrollan o mantienen los sistemas podrían no saber qué tareas realizan ni tener capacidad para impedir usos dañinos. El secreto no convierte automáticamente un uso en abusivo, pero reduce las oportunidades de detectar y corregir problemas.

La preocupación interna se centra también en la amplitud de los usos potenciales. Un sistema que procesa información puede ayudar a detectar relaciones, ordenar perfiles o identificar comportamientos; dependiendo de los datos y del propósito, esas capacidades podrían acercarse a formas de vigilancia. La prohibición declarada de vigilancia masiva nacional es una salvaguarda importante, aunque los reportes no explican qué definición operativa se aplica ni cómo se distingue una tarea permitida de otra prohibida. La frontera entre análisis de información y vigilancia puede depender del contexto, la escala y la finalidad.

La empresa afirma que mantiene límites frente a la vigilancia masiva y las armas autónomas sin control humano adecuado. Los empleados críticos, en cambio, consideran que una política interna pierde fuerza si el trabajo se realiza en sistemas a los que la compañía no puede acceder o sobre los que no conserva capacidad de intervención. No es posible resolver esa disputa con la información pública disponible. El desacuerdo no es solo sobre las intenciones de Google, sino sobre quién puede verificar lo que ocurre después de firmar el contrato.

El precedente de Maven y el cambio de contexto

La relación actual con Defensa revive el Proyecto Maven, una iniciativa del Pentágono que utilizó tecnología de Google para analizar imágenes de drones. En 2018, miles de trabajadores protestaron contra esa colaboración y la compañía decidió no renovar el contrato. El episodio convirtió una cuestión técnica —el análisis automatizado de imágenes— en un debate público sobre el papel de los empleados y los límites éticos de la industria tecnológica. Maven dejó claro que una herramienta desarrollada para tareas concretas podía quedar vinculada a decisiones militares.

El acuerdo actual se desarrolla en un escenario diferente. Los modelos de IA generativa pueden trabajar con texto y otros tipos de información, y se ofrecen como herramientas capaces de apoyar tareas variadas. Eso no significa que todas esas capacidades estén habilitadas en el entorno militar ni que se utilicen de la misma manera. Sí explica por qué la discusión ya no se limita a reconocer objetos en imágenes: alcanza también el análisis de documentos, la asistencia a usuarios y la integración de modelos en redes de trabajo. La tecnología es más generalista y el perímetro de sus usos potenciales resulta menos sencillo de dibujar.

Google ha ido ampliando de nuevo sus vínculos con el sector de defensa, mientras que en 2025 actualizó sus principios públicos sobre inteligencia artificial. El cambio se alejó de compromisos expresos anteriores contra el desarrollo de armas y la vigilancia, y adoptó un lenguaje más amplio sobre innovación responsable, seguridad y colaboración con gobiernos. No basta con ese giro para concluir que la compañía haya abandonado toda cautela, pero ayuda a entender por qué parte de sus empleados ve el pacto como un cambio de rumbo. La discusión actual no surge de la nada: se apoya en una historia de compromisos, protestas y revisiones de política.

Google no es la única tecnológica que negocia con Defensa

El pacto sitúa a Google junto a otras compañías que han aceptado trabajar con el Pentágono en sistemas de inteligencia artificial. OpenAI y xAI también aparecen en la información disponible como proveedores de tecnología para entornos militares clasificados. En 2025, el Departamento de Defensa firmó acuerdos de hasta 200 millones de dólares con varios laboratorios para incorporar modelos avanzados a redes militares. La demanda pública está empujando a las empresas de IA hacia una relación más estrecha con la seguridad nacional.

La disputa con Anthropic muestra el reverso de esa tendencia. La empresa se resistió a flexibilizar ciertas restricciones vinculadas a la vigilancia masiva y las armas autónomas, y el desacuerdo con el Pentágono derivó en una ruptura. El contraste expone una cuestión de poder: el Gobierno quiere conservar margen para utilizar sistemas dentro de los usos legales, mientras que algunas compañías pretenden que sus condiciones de seguridad y uso sigan vigentes también en contratos públicos. El conflicto no trata solo de qué modelo es más capaz, sino de quién fija sus límites.

Para el Pentágono, contar con varios proveedores permite ampliar las opciones y evitar depender de una sola empresa. Para las tecnológicas, estos contratos ofrecen acceso a programas estratégicos, aunque elevan el coste reputacional y las tensiones con sus plantillas. Cuando una empresa acepta condiciones que otra ha rechazado, también puede cambiar la posición negociadora de las demás. La competencia comercial y la presión institucional pueden hacer que los límites éticos se decidan contrato a contrato, en vez de mediante un estándar común.

El debate de fondo es quién responde por los efectos

En una cadena que combina modelos, infraestructura en la nube, personal militar y decisiones de mando, la responsabilidad puede repartirse entre muchos actores. La compañía desarrolla o adapta la herramienta; el proveedor tecnológico mantiene el sistema; el Gobierno determina el uso y el operador trabaja con sus resultados. Si algo falla, cada participante puede haber intervenido en una parte distinta. Cuanto más fragmentado está el proceso, más importante resulta que las responsabilidades estén definidas y sean revisables.

La frase cualquier uso gubernamental lícito coloca una parte esencial del debate en el marco legal y en las instituciones que lo aplican. Sin embargo, que una tarea esté autorizada no responde por sí solo a preguntas sobre fiabilidad, proporcionalidad o efectos sobre personas que no pueden conocer ni impugnar una decisión clasificada. Las reglas públicas, los controles democráticos y la supervisión independiente pueden reducir esos riesgos, pero la información sobre este acuerdo no permite valorar al detalle cómo operarán. Legalidad, seguridad y legitimidad son cuestiones relacionadas, pero no intercambiables.

El interés militar por la IA tiene una lógica reconocible: procesar información con rapidez, apoyar tareas administrativas y reforzar capacidades de defensa. El desafío consiste en impedir que esa eficiencia convierta una recomendación opaca en una decisión difícil de cuestionar, o que los límites escritos queden desconectados del uso real. El pacto de Google no prueba que la IA vaya a controlar armas ni que se emplee para vigilar a la población; tampoco elimina esas preocupaciones con una declaración contractual. La pregunta decisiva será si los controles pueden seguir el ritmo de una tecnología que entra en sistemas cada vez más sensibles.