¿Por qué el Gobierno pide investigar a Grok por pornografía?

El Gobierno lleva a Fiscalía el caso de Grok tras detectar posibles contenidos sexuales con menores y abre un debate legal

El Gobierno ha pedido a la Fiscalía General del Estado que investigue si Grok, la inteligencia artificial integrada en X (la antigua Twitter), pudo generar y difundir material de violencia sexual contra menores a petición de usuarios. La solicitud la ha formalizado la ministra de Juventud e Infancia, Sira Rego, mediante un escrito en el que plantea que los hechos podrían encajar en el delito de pornografía infantil del artículo 189 del Código Penal y, en paralelo, en un delito contra la integridad moral del artículo 173.

No es una condena ni una sentencia anticipada: es un paso para que el Ministerio Público determine si hay indicios suficientes, qué conductas concretas se investigan —generación, posesión, difusión, facilitación— y, sobre todo, si lo ocurrido es un episodio aislado o un patrón que exige una respuesta penal y medidas urgentes de contención. En este terreno, cuando entra la infancia, el margen para el “fue un error” se estrecha hasta casi desaparecer. Hace unos días, Francia hizo lo mismo. Y abrió así, el ‘vaso de Pandora’…

La carta a Fiscalía y el foco sobre Grok

El movimiento de Sira Rego llega tras la publicación de informaciones que apuntan a que Grok habría generado, bajo demanda, material sexual con menores o representaciones sexualizadas de menores. La ministra sostiene que esto no puede interpretarse como un uso neutro de la tecnología: si una herramienta responde a peticiones así, no se está ante una simple conversación desafortunada o un contenido “incómodo”, sino ante la posibilidad de que se haya producido o facilitado material ilegal.

En su escrito, Rego subraya que estas prácticas vulneran gravemente la dignidad, la intimidad y los derechos fundamentales de niños y adolescentes en el entorno digital. La frase es institucional, sí, pero el fondo es muy concreto: cuando una plataforma permite que se fabrique o se disemine material sexual con menores, el daño no es abstracto ni “de reputación”. El daño es real, aunque sea un archivo, aunque sea una imagen sintética, aunque el resultado no provenga de una cámara.

Aquí hay un detalle que suele perderse entre titulares: el Gobierno no está pidiendo que se investigue “a la IA” como si fuera una persona. Está pidiendo que se investiguen hechos asociados a una herramienta concreta dentro de una plataforma concreta. Dicho en cristiano: qué se generó, cómo se generó, quién lo pidió, qué barreras había, qué se hizo al detectarlo, qué se dejó sin hacer.

El escrito también apunta a una idea que está ganando peso en despachos de juristas y en comisarías tecnológicas: la violencia sexual digital no es una broma de adolescentes ni un asunto menor de moderación. Es un delito, o puede serlo, y tiene trazas que se investigan como se investigan otras: registros, tiempos, rutas de difusión, dispositivos, cuentas, metadatos, decisiones internas.

Qué se considera delito cuando entra la IA

En el corazón del debate hay una cuestión que parece técnica, pero es pura realidad penal: qué significa “pornografía infantil” cuando la imagen la crea un sistema generativo. Durante años, el imaginario colectivo asociaba el delito a fotografías o vídeos de abuso real. La tecnología ha abierto un pasillo oscuro: representaciones realistas, “montajes”, manipulación de fotos inocentes para volverlas sexuales, y ahora, directamente, generación desde cero.

La ministra cita de forma expresa el artículo 189 y el artículo 173. No es un gesto ornamental; es una manera de fijar el perímetro legal. Los dos artículos se tocan en esta clase de hechos porque una parte del daño es sexual y otra parte es humillación, degradación, invasión de la intimidad, una forma de violencia que, aunque nazca en una pantalla, se clava en la vida diaria.

Artículo 189: pornografía infantil, difusión y “pornografía virtual”

El artículo 189 del Código Penal castiga conductas vinculadas a la producción, posesión, distribución, exhibición o facilitación de pornografía infantil. En este tipo de casos, las palabras importantes suelen ser “difusión” y “facilitación”. Porque el salto de una imagen al mundo no es solo quien la crea: también cuenta el canal, la herramienta, el sistema que reduce fricciones.

Con la IA, el punto delicado está en las representaciones. No hace falta un rodaje para fabricar una escena sexual con un menor; basta con que el resultado sea verosímil y esté orientado a la excitación sexual o a la circulación en circuitos de abuso. Y ahí aparece un concepto que ya se utiliza en ámbitos jurídicos: pornografía virtual o pseudo pornografía infantil, expresiones que tratan de describir imágenes no necesariamente captadas de un abuso real pero que reproducen el mismo contenido, el mismo objetivo y el mismo tipo de consumo. En términos penales, el debate no se centra en “si hubo cámara”, sino en si hay representación sexual de menores, si se produce, si se difunde o si se pone a disposición.

En el caso de Grok, la clave es qué hizo exactamente el sistema: si generó material, si lo mostró al usuario, si permitió descargas, si existieron reintentos y “pasillos” para saltarse filtros, si se repitió de forma consistente. Y, si ocurrió, si la plataforma activó mecanismos para bloquear, reportar y cortar la circulación.

Artículo 173: integridad moral, humillación y daño que no se borra

El artículo 173 se invoca cuando hay un atentado grave contra la integridad moral, el trato degradante, la humillación que rebaja a la persona. En delitos digitales vinculados a menores, este artículo aparece con frecuencia porque la violencia no siempre se agota en el componente sexual: hay una dimensión de denigración, de exposición, de convertir a una niña o un adolescente en un objeto, en un meme, en un archivo que circula sin control.

La violencia de este tipo tiene una característica cruel: no se consume una vez. Se repite cada vez que alguien la comparte, la guarda, la reenvía, la comenta. La herida se reabre con cada notificación, con cada captura, con cada “mira lo que tengo”. Y aunque el caso que motiva la petición a Fiscalía hable de una herramienta generativa, la lógica del daño es la misma: lo sexualizado se convierte en arma, y si la víctima es menor, el impacto social y psicológico es especialmente grave.

El precedente de Badajoz que cambió el tono

Sira Rego no se queda en una denuncia genérica: en su oficio menciona una resolución que se convirtió en referencia en 2024, la sentencia 86/2024, de 20 de junio, del Juzgado de Menores de Badajoz. En aquel caso, se condenó a varias personas por utilizar inteligencia artificial para manipular imágenes de niñas y adolescentes, creando montajes de carácter sexual y difundiéndolos.

Ese episodio —muy ligado a la localidad pacense y a la circulación por mensajería— fue un punto de inflexión porque aterrizó en la práctica una idea que muchos repetían sin consecuencias: “si es un montaje, no pasa nada”. Sí pasa. Y, según ese criterio judicial, pasa lo bastante como para encajar en pornografía infantil y en delitos contra la integridad moral.

Lo relevante del precedente no es solo la condena, sino la manera en que la justicia empezó a nombrar el fenómeno: violencia digital. Ese término no es un eslogan; es una etiqueta que ayuda a comprender por qué un archivo falso puede destruir la vida real. En el patio del instituto, en el barrio, en casa, en el móvil de madrugada. La imagen persigue. La vergüenza se instala. Aparece el miedo a salir, el aislamiento, el control obsesivo del teléfono. Y en menores, todo eso tiene una gravedad particular porque se mezcla con identidad, desarrollo y entorno escolar.

Cuando el Gobierno cita ese caso, está enviando un mensaje sin subrayarlo: ya existe un camino judicial para tratar este tipo de hechos. No se está inventando una alarma; se está conectando un caso actual con un antecedente que, en términos legales, es de ayer mismo.

Qué puede pedir la Fiscalía y qué mirarán los peritos

Si la Fiscalía decide abrir diligencias, el trabajo real no será un debate teórico sobre la moral de las plataformas. Será, sobre todo, una investigación de rastros. En sistemas digitales, los rastros existen si alguien los guarda. Y si no existen, ese “no existen” también dice algo.

Una investigación así suele girar alrededor de varios ejes. El primero es el contenido concreto: qué prompts se introdujeron, qué respuesta dio el sistema, en qué formato, con qué nivel de realismo, si hubo reiteración o insistencia por parte de usuarios. El segundo es el diseño de salvaguardas: qué filtros estaban activos, cómo se entrenaron, qué lagunas tenían, si existían rutas para rodearlos, si se corrigieron y cuándo.

El tercer eje, el más incómodo, es la capacidad de difusión. Una IA puede generar algo en privado, sí, pero si el ecosistema favorece el reenvío y el repost, el material no se queda en un rincón. En una plataforma como X, donde el contenido puede viajar a velocidad de incendio, la pregunta práctica es: ¿hubo circulación posterior, se detectó, se borró, se denunció, se preservaron pruebas?.

En paralelo, Fiscalía podría interesarse por la responsabilidad de quienes solicitan ese material, porque el origen de la acción es el usuario que pide el contenido. Pero en el derecho penal contemporáneo, especialmente cuando se trata de menores, también se examina la facilitación: si una herramienta permite y normaliza la producción, si reduce a un clic lo que antes exigía una conducta más compleja, si hay un componente de negligencia o de tolerancia hacia usos ilícitos.

Con inteligencia artificial, además, aparece un factor extra: la opacidad técnica. No basta con decir “no lo sabíamos”. La Fiscalía puede preguntar por auditorías, por evaluaciones de riesgo, por incidentes previos, por protocolos de respuesta, por equipos de seguridad. Las empresas tecnológicas, cuando operan a gran escala, no viven en la ingenuidad: viven en el riesgo calculado. Y ahí, cuando el asunto es la infancia, los cálculos se vuelven políticamente tóxicos.

También está el plano de la cooperación internacional. X es una plataforma global; los servidores, los equipos y las decisiones pueden estar fuera de España. En casos graves, puede activarse cooperación judicial, solicitudes de información y coordinación con unidades especializadas. A veces el caso no se resuelve con un “identificamos al usuario”; se resuelve con una cadena: usuario, cuentas, redes de difusión, herramientas usadas, tiempos, repetición de conducta.

En todo ese proceso, una cosa pesa como plomo: el interés superior del menor. No es una frase bonita; es un principio jurídico y político que enmarca cómo se toman decisiones cuando el daño potencial afecta a niños y adolescentes. Y es lo que explica el tono duro del escrito de Rego: no es un asunto de “contenido sensible”, es un asunto de protección.

La ley de protección de menores en entornos digitales, en plena tramitación

Este caso estalla mientras el Congreso tramita una ley orgánica para la protección de las personas menores de edad en los entornos digitales, impulsada por el Ministerio de Juventud e Infancia junto a otros departamentos del Gobierno. La iniciativa busca reforzar el marco de protección de la integridad y la intimidad personal frente a nuevas vulneraciones vinculadas a tecnologías como la IA, con un mensaje de fondo muy directo: el interés del menor debe prevalecer sobre cualquier lógica de negocio digital.

La tramitación de esa ley no es un decorado; forma parte del contexto que explica por qué el Gobierno actúa con rapidez. Cuando una norma está en debate y, de pronto, aparece un caso que parece hecho a medida de sus riesgos —IA, plataformas, menores, sexualización—, la política tiende a acelerar. No por oportunismo necesariamente, sino porque el fenómeno ya está aquí y no espera a la siguiente comisión parlamentaria.

Entre las medidas que se han puesto sobre la mesa en ese proyecto se han citado cuestiones como elevar a 16 años ciertos umbrales de protección vinculados a datos y acceso a redes, reforzar la verificación de edad, impulsar controles parentales por defecto y blindar a menores frente a fenómenos como el grooming, la suplantación y los deepfakes sexuales. En el debate público también se ha hablado de la regulación del uso de dispositivos en centros educativos y de mecanismos para combatir la exposición temprana a contenidos nocivos.

Lo importante aquí no es la lista de medidas, sino el clima regulatorio: España y la Unión Europea están girando hacia un modelo en el que a las plataformas se les exige más que “buenas intenciones”. Se les exige responsabilidad: prevenir, reaccionar, reparar. Y, cuando falla, rendir cuentas.

En ese marco, la petición a Fiscalía sobre Grok funciona como una señal: si una herramienta de IA permite la generación de material sexual con menores, el problema no se arregla solo con un parche técnico y un comunicado. Puede acabar en investigación penal, y eso cambia la conversación interna de cualquier compañía: filtros, trazabilidad, equipos, protocolos, prioridades.

La línea roja que ya está en los juzgados

La historia, con nombres y apellidos, queda así: Sira Rego, ministra de Juventud e Infancia, solicita a la Fiscalía General del Estado que investigue si Grok, la IA de X, pudo incurrir en conductas relacionadas con la difusión o generación de material de violencia sexual contra la infancia, con posible encaje en el artículo 189 y el artículo 173 del Código Penal. El Gobierno sostiene que estas prácticas suponen una vulneración grave de derechos fundamentales y que es imprescindible un análisis que permita frenar y perseguir hechos de esta naturaleza.

Y no lo hace en el vacío: se apoya en el precedente de Badajoz, en la sentencia 86/2024 del Juzgado de Menores, donde la justicia trató el uso de IA para manipular imágenes de menores como una forma de violencia digital con respuesta penal. Ese antecedente no resuelve el caso de Grok, pero marca una dirección: la tecnología no convierte lo intolerable en tolerable. Solo lo hace más rápido.

A partir de aquí, todo dependerá de lo verificable: qué ocurrió exactamente, cómo se produjo, qué mecanismos fallaron o se esquivaron, y qué responsabilidad puede atribuirse a cada actor. Pero hay un dato de fondo, duro y estable: cuando la infancia entra en juego, el debate deja de ser un pulso cultural sobre límites del humor o libertad de expresión. Pasa a ser una cuestión de protección efectiva, de investigación y de límites legales que no se negocian. En esa frontera —y es la frontera que se está dibujando— no hay espacio para la ambigüedad.