¿Entrenaron a Grok con material de abuso sexual infantil? La demanda

Una nueva demanda colectiva presentada en Estados Unidos acusa a xAI, la empresa de inteligencia artificial de Elon Musk, de algo bastante más grave que permitir que Grok genere imágenes sexuales ilícitas: sostiene que el propio sistema habría sido entrenado con material de abuso sexual infantil. La acusación existe y está formalmente ante un tribunal federal, pero conviene marcar la frontera desde el principio: todavía no existe una resolución judicial que demuestre que xAI utilizó ese material para entrenar Grok.

La demanda fue presentada el 26 de agosto de 2026 ante el Tribunal de Distrito de Estados Unidos para el Distrito Norte de California. La principal demandante, identificada como Jane Doe para proteger su identidad, es superviviente de abusos sexuales sufridos cuando era niña. Sus abogados alegan que antiguas imágenes de aquellos abusos acabaron formando parte de los datos utilizados por xAI y que Grok habría generado posteriormente nuevas imágenes sexuales en las que aparecía su identidad o apariencia. Es precisamente ahí donde el caso deja de ser otro episodio sobre deepfakes y entra en un terreno mucho más incómodo.

Una acusación que lleva el caso de Grok mucho más lejos

Hasta este procedimiento, buena parte de las críticas y demandas contra Grok se centraban en otra cuestión: usuarios que introducían fotografías normales de personas reales y conseguían que el sistema produjera imágenes sexualizadas sin consentimiento, incluidas imágenes de menores.

La nueva acción judicial añade una acusación distinta. No plantea únicamente que alguien utilizara Grok como herramienta para fabricar contenido ilegal, sino que sostiene que material de abuso preexistente habría entrado en los conjuntos de datos del modelo. Según los abogados de Jane Doe, fotografías de la demandante tomadas durante los abusos sufridos en su infancia circulan desde hace alrededor de dos décadas y habían sido identificadas por organizaciones especializadas en protección infantil.

La diferencia puede parecer técnica, pero no lo es. Una cosa es que una herramienta legal sea utilizada de manera criminal por un usuario; otra bastante distinta sería que material ilegal formara parte del entrenamiento o refinamiento de esa herramienta. La demanda intenta precisamente trasladar la responsabilidad de xAI desde el primer escenario hacia el segundo.

Y ahí empieza la batalla jurídica. Los abogados sostienen que las imágenes relacionadas con Jane Doe estaban registradas desde hacía años en sistemas empleados para localizar material conocido de abuso sexual infantil, incluido el ecosistema de detección utilizado por organizaciones especializadas en protección de menores.

Una de las herramientas utilizadas en este ámbito son los llamados hashes, una especie de huella digital matemática de cada archivo. Permiten reconocer imágenes previamente identificadas sin necesidad de que una persona tenga que abrirlas y examinarlas una a una. Cuando el archivo vuelve a aparecer, determinados sistemas pueden compararlo con bases de datos de contenido ya catalogado.

Ese detalle tiene peso en la demanda. Los abogados sostienen que las nuevas imágenes atribuidas a Grok mantenían suficientes elementos relacionados con material previamente identificado como para vincularlas con una víctima real. No se estaría hablando, según la acusación, únicamente de la creación de un personaje ficticio, sino de la supuesta transformación de la identidad de una persona cuya explotación infantil estaba documentada desde hacía años.

El supuesto bucle entre las imágenes generadas y el entrenamiento

La parte más difícil de demostrar probablemente será también la más importante. Los demandantes sostienen que contenidos producidos mediante Grok pudieron terminar incorporándose nuevamente a procesos de entrenamiento o mejora del modelo, creando una especie de circuito de retroalimentación: el sistema genera contenido, ese contenido entra posteriormente en nuevos datos y su influencia puede permanecer incluso después de retirar una imagen concreta.

La documentación pública de la compañía contempla, de forma general, que determinados contenidos e interacciones de los usuarios y respuestas de Grok pueden emplearse para mejorar y entrenar modelos, dependiendo de las condiciones y controles aplicables. Para usuarios europeos también se contempla el tratamiento de determinadas publicaciones públicas y otros datos disponibles. Esto explica por qué el asunto tiene relevancia jurídica, pero no demuestra que material ilegal concreto llegase al entrenamiento de Grok. Esa es precisamente una de las afirmaciones que tendrá que probarse.

La propia empresa asegura, por otra parte, que aplica filtros de calidad y herramientas de seguridad sobre sus datos y sistemas. Hay, pues, dos planos que no conviene mezclar: lo que xAI afirma hacer para evitar contenidos ilícitos y lo que sostiene la demanda que ocurrió realmente. Un tribunal todavía no ha decidido cuál de esos relatos describe los hechos.

Grok ya arrastraba una crisis por los deepfakes sexuales

El procedimiento no aparece en un vacío. Grok lleva buena parte de 2026 sometido a un escrutinio extraordinario por su capacidad para modificar fotografías de personas reales y producir deepfakes sexualizados.

El episodio explotó a comienzos de año, cuando numerosos usuarios comenzaron a pedir al sistema que alterara fotografías publicadas en X. La facilidad con la que podían obtenerse determinados resultados convirtió una función de generación de imágenes en una fábrica improvisada de desnudos falsos sin consentimiento. Tecnología punta, comportamiento cavernícola: Internet conserva cierta habilidad para combinar ambas cosas.

Una estimación del Center for Countering Digital Hate calculó que Grok produjo alrededor de tres millones de imágenes sexualizadas en solo 11 días, entre el 29 de diciembre de 2025 y el 8 de enero de 2026. El estudio estimó que unas 23.000 parecían representar a menores. No significa que los tres millones fueran imágenes de niños, como algunas versiones difundidas en redes han sugerido; el dato atribuido específicamente a menores es considerablemente menor, aunque sigue siendo estremecedor.

X comenzó después a imponer restricciones sobre determinadas funciones. En enero limitó parte de las herramientas y anunció medidas destinadas a impedir que Grok editase fotografías de personas reales para mostrarlas de forma sexualizada o con ropa reveladora. La compañía defendió entonces una política de tolerancia cero frente a la explotación sexual infantil y la desnudez no consentida.

De perseguir a usuarios a afrontar una demanda de una víctima

Hay otra paradoja en esta historia. xAI también ha recurrido a los tribunales contra personas acusadas de utilizar Grok para generar material de abuso sexual infantil. En julio, por ejemplo, la empresa demandó a un usuario al que acusó de introducir imágenes de adultos y menores e intentar crear contenido sexual explícito mediante el sistema.

En aquel procedimiento, xAI presentó Grok esencialmente como una herramienta sometida al control del usuario y defendió sus mecanismos contra los abusos. La compañía afirmó que suspende cuentas, comunica material sospechoso a las organizaciones competentes y coopera con las autoridades cuando detecta posibles delitos.

La nueva demanda gira la cámara ciento ochenta grados. Ya no examina solamente lo que hace quien escribe una instrucción al chatbot, sino qué responsabilidad tiene la empresa que diseñó el sistema, eligió sus datos, fijó sus filtros y decidió cómo podía generar imágenes.

La demandante reclama indemnizaciones y medidas judiciales que obliguen a xAI a dejar de generar, poseer o transportar ese material y a destruir el contenido ilegal que conserve. La acción invoca, entre otras normas federales estadounidenses, la llamada Masha’s Law, que permite a víctimas de explotación sexual infantil reclamar civilmente por determinados delitos relacionados con esas imágenes. Los abogados pretenden representar además a un grupo de afectados que, según su estimación, podría incluir a miles de personas.

Europa también investiga los riesgos relacionados con Grok

La presión sobre Grok no procede únicamente de los tribunales estadounidenses. La Comisión Europea abrió el 26 de enero de 2026 una investigación formal sobre X al amparo del Reglamento de Servicios Digitales para determinar si la plataforma había evaluado y reducido adecuadamente los riesgos derivados de integrar las funciones de Grok.

Bruselas mencionó expresamente entre esos riesgos la difusión de imágenes sexualmente explícitas manipuladas y contenidos que pudieran constituir material de abuso sexual infantil. La actuación coloca el problema dentro de una discusión europea mucho más amplia: hasta dónde llega la responsabilidad de una plataforma cuando su propia inteligencia artificial puede generar el contenido problemático.

En Reino Unido, Ofcom abrió igualmente una investigación formal después de recibir informaciones sobre la utilización de Grok para crear imágenes de personas desnudas y representaciones sexualizadas de menores. X comunicó posteriormente nuevas medidas destinadas a impedir esos usos, aunque el escrutinio regulatorio continuó.

El problema, por tanto, ha dejado hace tiempo de ser una disputa cultural sobre si una inteligencia artificial debe tener más o menos filtros. Cuando aparecen menores reales, imágenes sexuales no consentidas y contenido potencialmente delictivo, la discusión ya no gira alrededor de la libertad creativa de un chatbot. Entran en escena leyes penales, protección de víctimas, obligaciones de las plataformas y responsabilidad empresarial.

Qué está probado y qué deberá demostrar la demanda

Hay hechos que a estas alturas están razonablemente claros. Grok fue utilizado para producir una cantidad enorme de imágenes sexualizadas; investigadores localizaron miles que parecían involucrar a menores; sus funciones provocaron investigaciones regulatorias y demandas; xAI introdujo restricciones y también ha denunciado judicialmente a usuarios acusados de abusar de su tecnología.

Otra cosa es afirmar que xAI entrenó deliberadamente Grok con material de abuso sexual infantil. Eso es, por el momento, una alegación contenida en una demanda colectiva presentada ante un tribunal federal. Los abogados de la víctima dicen disponer de elementos que relacionan imágenes históricas de su clienta con resultados producidos por Grok, pero el procedimiento acaba de comenzar y no existe una sentencia sobre el fondo.

A fecha del 3 de septiembre de 2026, la compañía no había ofrecido una respuesta pública detallada que refutase punto por punto las nuevas acusaciones recogidas en el procedimiento. Elon Musk había negado meses antes tener conocimiento de que Grok hubiera generado imágenes de menores desnudos. Desde entonces, sin embargo, su propia empresa ha llevado ante los tribunales a usuarios acusados de explotar el chatbot para producir material ilegal.

El matiz importa, y mucho. Decir que Grok fue entrenado con material de abuso como hecho probado sería ir más lejos de lo que permiten por ahora las evidencias públicas. Lo preciso es señalar que una víctima y sus abogados lo sostienen en una demanda federal y que tendrán que demostrarlo mediante pruebas, documentación técnica y, previsiblemente, información sobre los conjuntos de datos utilizados por xAI.

El problema ya no es solo lo que una inteligencia artificial genera

La trascendencia del caso va más allá de Grok. Los grandes modelos generativos funcionan con cantidades gigantescas de datos y mediante procesos que, para el público, continúan siendo en buena medida una caja negra. Cuando aparece una fotografía falsa desagradable, eliminarla puede resultar relativamente sencillo. Cuando la discusión pasa a ser si una imagen ilegal contaminó los datos utilizados para entrenar un modelo, la respuesta deja de caber en el botón de borrar.

Ahí está el verdadero terremoto de esta demanda. No únicamente en si Grok produjo imágenes que jamás debería haber producido, sino en la posibilidad —todavía pendiente de prueba— de que material de víctimas reales hubiera terminado dentro del ecosistema con el que una inteligencia artificial aprendió a generar otras nuevas.

Durante años, las grandes plataformas tecnológicas defendieron que no podían controlar cada cosa que millones de usuarios publicaban. La inteligencia artificial generativa cambia una pieza fundamental: la máquina ya no se limita a alojar el contenido; también puede fabricarlo. Y si un tribunal considera probado que los sistemas de entrenamiento participaron igualmente en esa cadena, la vieja frontera entre plataforma, herramienta y productor de contenido empezará a parecer bastante menos cómoda.