¿Por qué un tribunal alemán frena las mentiras de la IA de Google?

Un tribunal de Múnich ha dado un golpe seco sobre la mesa: Google puede ser responsable de las afirmaciones falsas que aparecen en sus resúmenes generados por inteligencia artificial. No de un enlace ajeno, no de una página perdida en la maleza de internet, no de una opinión enterrada en un foro con olor a sótano digital. De sus propios resúmenes. De esa voz pulcra, sintética y aparentemente servicial que aparece por encima de los resultados y que muchos usuarios leen como quien lee una respuesta ya digerida, sin huesos, sin espinas, sin necesidad de masticar demasiado.

La decisión afecta a las llamadas AI Overviews, los resúmenes automáticos que Google muestra en determinadas búsquedas. El caso nace de dos editoriales de Múnich a las que el sistema vinculó con supuestas estafas, malas prácticas comerciales y “trampas” de suscripción. El problema no era solo que la respuesta fuera dañina. El problema, mucho más serio, era que el resumen de IA construía una relación que no aparecía así en las fuentes enlazadas. La máquina no se limitó a enseñar el mapa: pintó una carretera donde no la había.

El tribunal alemán entendió que ahí cambia todo. Una búsqueda tradicional ofrece enlaces, fragmentos, pistas. La responsabilidad del buscador suele quedar limitada porque no está escribiendo el contenido original, sino ordenando material de terceros. Pero una respuesta generada por IA hace otra cosa: selecciona, mezcla, resume, interpreta y presenta una conclusión con voz propia. Y cuando esa conclusión acusa a una empresa de prácticas turbias sin base suficiente, el barniz tecnológico no convierte la falsedad en un accidente sin dueño.

Hay algo casi doméstico en la frase de fondo que atraviesa la sentencia: nadie necesita inteligencia artificial para buscar en internet. No es una boutade antitecnológica ni una pedrada lanzada contra Silicon Valley desde una ventana bávara. Es una distinción jurídica con dinamita dentro. El buscador clásico puede ser necesario para orientarse en la “flotilla” interminable de páginas web. El resumen de IA, en cambio, es una función añadida. Cómoda, vistosa, quizá útil. Pero añadida. Y lo añadido no puede pedir la misma indulgencia que lo imprescindible.

Por qué el tribunal no compró la defensa de Google

Google sostuvo una línea de defensa bastante conocida en estos tiempos: los usuarios saben que la inteligencia artificial puede equivocarse y deben verificar lo que leen. Traducido a lenguaje de calle: no se fíen tanto de esto que les ponemos arriba del todo, con formato de respuesta limpia, ordenada y aparentemente definitiva. Un poco como vender paraguas con agujeros y alegar después que cualquiera debería haber mirado al cielo con más criterio.

El tribunal no aceptó ese argumento. Y con razón. Si la utilidad de un resumen de IA consiste en ahorrar al usuario el trabajo de revisar diez enlaces, no puede exigirse después que ese mismo usuario compruebe cada enlace para saber si el resumen era fiable. El producto promete atajo; la defensa exige camino largo. Ahí hay una contradicción gruesa, de las que crujen.

La sentencia distingue entre una lista de resultados y una afirmación nueva. En el caso analizado, la IA no se limitó a reproducir contenidos externos. Redactó una respuesta afirmativa, organizada, con apariencia de síntesis informativa. Al hacerlo, convirtió materiales dispersos en una declaración autónoma. Y esa declaración, según el tribunal, era atribuible a Google porque la compañía introdujo la herramienta, la ofrece a los usuarios y controla los algoritmos que la hacen funcionar.

Esto no significa que Google sea responsable de cualquier página que aparezca en internet, ni que deba revisar manualmente todo el universo digital antes de mostrarlo. La diferencia está en el salto editorial. Cuando un sistema selecciona información y genera una conclusión en lenguaje natural, ya no estamos ante una simple estantería. Estamos ante alguien —o algo, pero gestionado por alguien— que responde desde el mostrador.

No era un enlace: era una acusación servida como respuesta

El asunto concreto tenía un filo especialmente delicado. Las editoriales afectadas aparecían asociadas a expresiones relacionadas con estafas, prácticas comerciales dudosas, abonados atrapados y cambios de nombres o direcciones web. Para cualquier empresa, eso no es una molestia menor. Es barro en la fachada. Una frase así en la parte alta de Google puede pesar más que una campaña entera de reputación, porque Google no es una plaza cualquiera: es la plaza.

La IA, según el fallo, mezcló referencias y acabó atribuyendo a los demandantes vínculos o comportamientos que no estaban acreditados. El tribunal consideró que las afirmaciones afectaban al derecho de personalidad empresarial, una figura que protege la reputación pública de las personas jurídicas cuando su consideración social o comercial queda dañada por imputaciones falsas o no justificadas.

La clave está en que los perjudicados no podían demandar eficazmente a una fuente original por esa afirmación concreta, porque la afirmación concreta no la había hecho esa fuente. La había construido la IA de Google al combinar piezas. Ese detalle es crucial. Si el daño nace en la síntesis automática, el responsable no puede esconderse detrás de los ladrillos usados para levantarla. La casa, aunque esté hecha con materiales ajenos, la ha diseñado otro.

La grieta que se abre en la búsqueda con IA

La decisión alemana llega en un momento incómodo para Google y para todo el sector de las búsquedas con inteligencia artificial. Las grandes tecnológicas llevan años empujando una idea simple: el futuro de internet no será navegar, sino preguntar. No diez pestañas abiertas, sino una respuesta. No el lector saltando de web en web, sino una caja luminosa que lo resume todo. Suena cómodo. También suena a embudo.

Google empezó a desplegar AI Overviews en Estados Unidos en 2024 y después aceleró su expansión internacional. La empresa ha presentado estos resúmenes como una forma de hacer más útil la búsqueda, especialmente cuando las preguntas son complejas o requieren juntar información de varias páginas. Sobre el papel, la promesa es atractiva. En la práctica, el sistema entra en una zona gris: si responde como un medio, ¿debe asumir cargas parecidas a las de un medio? Si resume como un editor, ¿puede seguir comportándose jurídicamente como una tubería?

La sentencia de Múnich no destruye las búsquedas con IA, pero sí les retira una comodidad: la de presentarse como intermediarios neutrales cuando redactan respuestas con apariencia de verdad. Esa es la grieta. Pequeña quizá, pero por ahí se cuela el agua. Y el agua, ya se sabe, acaba encontrando sótanos.

Las implicaciones pueden ir más allá de Google. Cualquier motor de búsqueda con IA, asistente conversacional o herramienta que genere respuestas apoyándose en fuentes externas podría enfrentarse a una pregunta parecida: cuando el sistema inventa una conexión, exagera una acusación o cita fuentes que no sostienen lo que afirma, ¿quién carga con el daño? El proveedor dirá que el modelo ha fallado. El afectado responderá que el modelo no comparece en el juzgado, no paga costas y no firma contratos. Tiene poca épica, pero bastante derecho.

La falsa humildad de la máquina que se equivoca

Durante años, las empresas tecnológicas han intentado envolver los errores de la inteligencia artificial en un lenguaje casi meteorológico. “Alucinaciones”, dicen. Como si la respuesta falsa fuera una nube rara, un fenómeno natural, una niebla que bajó de la montaña. Pero una alucinación en un producto comercial no es poesía: es un fallo que puede tener consecuencias reales.

En búsquedas banales, el error puede rozar lo cómico. Una receta absurda, una fecha mal puesta, una biografía coja. En reputación empresarial, salud, dinero, política o justicia, el error deja de ser pintoresco y empieza a ser venenoso. Cuando Google coloca una respuesta arriba, con diseño limpio y tono de autoridad, no la está susurrando en un callejón. La está poniendo en un escaparate con luces blancas.

El tribunal alemán también parece ver esa diferencia entre una opinión humana y una frase generada por un sistema. Una persona puede expresar una convicción, incluso una opinión dura, siempre dentro de los límites legales. Una IA, en cambio, no tiene convicción. No cree, no duda, no rectifica por vergüenza. Produce texto mediante un sistema diseñado, desplegado y explotado comercialmente por una empresa. Suena frío, sí. Precisamente por eso no conviene romantizarlo.

La libertad de expresión no desaparece aquí, pero tampoco funciona como una capa mágica. Si una empresa usa IA para ofrecer respuestas dentro de un producto comercial, la protección de esa actividad no puede aplastar el derecho de un tercero a no ser presentado falsamente como estafador. La democracia liberal no consiste en dejar que el más grande hable más alto con un megáfono algorítmico. Consiste, entre otras cosas, en que el pequeño pueda pedir reparación cuando el megáfono se equivoca.

El caso también toca una costumbre incómoda: la mayoría de usuarios no se comporta como un auditor. Lee, escanea, confía a medias, pasa página. Las respuestas de IA están diseñadas para eso, para reducir fricción. Esa palabra tan querida por los departamentos de producto: fricción. Pero la fricción, a veces, es pensamiento. Es la pequeña resistencia que obliga a comparar, abrir, contrastar, oler si algo viene quemado de la cocina.

Varios estudios recientes han señalado que cuando aparece un resumen de IA en Google, los usuarios tienden a hacer menos clic en los enlaces tradicionales y rara vez entran en las fuentes citadas dentro del propio resumen. No es extraño. Si alguien llega con una respuesta empaquetada, muchos se quedan con el paquete. La promesa del formato educa el comportamiento del lector.

Por eso la defensa basada en “el usuario podía comprobarlo” tiene un punto cínico. Poder no equivale a hacerlo. También se puede leer la letra pequeña de todos los contratos, comprobar el etiquetado de cada alimento y revisar la presión de las ruedas antes de cada trayecto. La vida real, esa antigualla, funciona con atajos. Google lo sabe mejor que nadie. Ha construido un imperio sobre anticipar atajos.

Europa vuelve a mirar a la tecnología sin arrodillarse

La sentencia encaja en una tendencia europea más amplia: las plataformas digitales ya no son vistas solo como infraestructuras neutras, sino como actores que ordenan, jerarquizan y, cada vez más, formulan la realidad. Bruselas y los tribunales nacionales llevan tiempo afinando instrumentos para limitar abusos de poder, exigir transparencia y proteger derechos. No siempre con la velocidad adecuada, no siempre con elegancia legislativa. Europa también sabe fabricar laberintos administrativos con entusiasmo de relojero triste. Pero el movimiento existe.

La resolución alemana no aplica directamente el Reglamento Europeo de Inteligencia Artificial como eje central del caso. Va por otra vía: reputación, responsabilidad civil, derecho de personalidad empresarial, deber de cesar una afirmación dañina. Esto la hace más interesante. No hace falta esperar a que todo el edificio regulatorio de la IA esté terminado para decir algo bastante elemental: si tu producto afirma algo falso y daña a alguien, no puedes limitarte a señalar al algoritmo como si fuera un becario con fiebre.

También conviene no exagerar. El fallo no prohíbe los resúmenes de IA. No declara ilegal el modelo de Google. No dice que toda respuesta automática sea una bomba jurídica. Ordena que Google deje de difundir determinadas afirmaciones falsas sobre unas empresas concretas y razona por qué esas afirmaciones son atribuibles al buscador. Es una pieza, no toda la partida. Pero algunas piezas cambian el tablero.

Para los editores, además, el caso tiene otra lectura. Las IA de búsqueda resumen contenidos producidos por terceros, reducen clics y, cuando se equivocan, pueden dañar reputaciones. Es el triángulo perfecto de la nueva economía digital: el contenido lo pone otro, la respuesta la monetiza la plataforma y el riesgo cae donde pille. La sentencia alemana introduce una corrección: el riesgo no puede evaporarse siempre hacia abajo.

El buscador ya no es una tubería neutra

Google previsiblemente peleará la decisión o intentará limitar su alcance. La empresa sostiene que invierte en la calidad de sus resúmenes y que la mayoría de respuestas son precisas. Es una defensa esperable. También insuficiente por sí sola. En responsabilidad por daños, “acertamos casi siempre” no arregla necesariamente el daño de quien cae en el porcentaje malo. Un puente no presume de que solo se hunde los jueves.

El efecto inmediato puede ser una mayor rapidez en la retirada o corrección de respuestas denunciadas, sobre todo cuando afecten a reputación, acusaciones comerciales, salud, finanzas o asuntos jurídicos. También puede empujar a Google y a otros actores a rediseñar la forma en que los resúmenes atribuyen información, separan hechos de inferencias y muestran advertencias. El aviso genérico de “la IA puede equivocarse” empieza a parecer poca cosa, una pegatina en la puerta de una fábrica.

El sector tendrá que resolver una tensión de fondo. Cuanto más útil quiere ser una búsqueda con IA, más interpreta. Cuanto más interpreta, más se parece a una publicación. Cuanto más se parece a una publicación, más responsabilidad puede generar. La neutralidad era más cómoda cuando el buscador ofrecía diez enlaces azules. Ahora la máquina habla con voz de mayordomo eficiente. Y los mayordomos, cuando acusan a alguien de estafador en el salón, no pueden desaparecer detrás de la bandeja.

Para el usuario común, la enseñanza es menos tecnológica que cultural. La respuesta rápida no siempre es la respuesta buena. La comodidad no es prueba. Y el formato elegante —esa caja limpia, ese tono seguro, esa gramática sin manchas— puede contener errores muy serios. El viejo internet tenía ruido, banners, foros, páginas feas y enlaces rotos. El nuevo internet quiere parecer una sala blanca. El problema es que también en las salas blancas se contaminan las muestras.

La sentencia alemana importa porque pone nombre a una transformación que ya estaba ocurriendo delante de todos. Google no solo organiza internet; cada vez más, lo reescribe para el usuario. Lo condensa, lo traduce a una respuesta, lo convierte en una voz. Y cuando esa voz se equivoca con daño para terceros, la vieja excusa del intermediario empieza a quedarse corta.

El mensaje del tribunal es sobrio, casi antipático para la épica tecnológica: buscar en internet ya era posible sin IA. La inteligencia artificial puede ayudar, sí, pero no tiene derecho a una irresponsabilidad especial por el mero hecho de ser nueva, brillante y cara. Si genera afirmaciones propias, debe cargar con ellas. Si mezcla fuentes y fabrica una acusación, no basta con decir que había enlaces disponibles. Si la máquina habla, alguien responde.

Este fallo no acaba con la búsqueda con IA. La vuelve adulta. Le quita el babero de experimento y le pone americana, expediente y posibilidad de condena. Google quería que sus resúmenes fueran la entrada principal al conocimiento online. Alemania acaba de recordarle algo menos glamuroso: quien ocupa la entrada también vigila la puerta. Y si deja pasar una mentira vestida de respuesta, la factura puede llegar con membrete judicial.