Las redes contra el odio digital: ¿por qué TikTok gana a X?

Octubre: TikTok retira el 96% de contenidos xenófobos y X el 4%; Oberaxe desgrana datos, motivos, efectos y claves del DSA en España, plazos.

La fotografía de octubre es contundente y, a estas alturas, difícil de discutir: TikTok retiró el 96 % de los contenidos de odio y xenofobia que le fueron denunciados por el Observatorio Español del Racismo y la Xenofobia, mientras que X apenas eliminó el 4 %. El promedio del ecosistema quedó en el 42 % de retirada, tres puntos por encima de septiembre y la segunda mejor marca del año. No son matices: son políticas y engranajes que funcionan —o que fallan— cuando se les pone a prueba. Lo relevante para entender la brecha: reglas internas más claras, equipos de moderación dimensionados y el uso real de canales prioritarios de comunicación con las autoridades.

El contexto ayuda a valorar el alcance del problema. En octubre, el observatorio —dependiente del Ministerio de Inclusión, Seguridad Social y Migraciones— detectó y monitorizó 52.958 mensajes de carácter racista o xenófobo. Con ese mes, el acumulado de enero a octubre asciende a 740.144 publicaciones. Cambió, además, el tipo de contenido: crecieron los mensajes deshumanizadores hasta suponer el 45 % del total, aumentó el material que pide expulsiones de personas migrantes (14 %) y descendieron las incitaciones explícitas a la violencia (del 13 % al 6 %) y las alabanzas a agresores (del 14 % al 5 %). Octubre trae, por tanto, un retrato doble: mucha actividad detectada y grandes diferencias en cómo reacciona cada plataforma.

El mapa de la retirada: plataformas y porcentajes

Las cifras por red dibujan un paisaje nítido. Facebook retiró el 53 % del contenido de odio denunciado, Instagram el 37 % y YouTube el 22 %. En el extremo alto, TikTok con el 96 %; en el extremo bajo, X con el 4 %. Respecto a septiembre, la media general sube tres puntos y firma el segundo mejor mes del año, solo por detrás de julio, cuando la eliminación se disparó coincidiendo con los acontecimientos de Torre Pacheco y los episodios de tensión que siguieron. Este patrón es ya conocido: todo sube o baja con la actualidad. Cuando se enciende la calle, se encienden también los muros, los “feeds”, las tendencias. Y el impacto de la moderación —o su ausencia— se multiplica.

No todas las plataformas son iguales en tamaño, público o formatos, de modo que sus “mixes” de riesgo varían. Un sistema de vídeo corto con fuerte inversión en seguridad local no sufre, quizá, el mismo tipo de ataques que una red de microblogueo con moderación más laxa y cambios continuos en sus políticas. Pero una diferencia de 92 puntos entre la red que más borra y la que menos no se explica por composición de audiencia o por azar estadístico. Ahí hay decisiones de producto, de recursos y de coordinación que establecen la diferencia entre cortar la difusión de un mensaje dañino en minutos o dejarlo horas a la intemperie.

Conviene fijarse también en la tendencia interna del discurso. Que la deshumanización crezca al 45 % indica un desplazamiento del odio hacia formas que normalizan el desprecio (“no son personas”, “plagas”, “alimañas”), menos estridentes que la violencia explícita, pero altamente corrosivas para el debate público. A menudo cruzan, además, las propias normas comunitarias de las redes. Cuando esas normas se aplican y cuando existen interlocutores reconocidos que denuncian por canal preferente, los números cambian. Octubre lo prueba.

Qué hay detrás de la brecha

Las cifras no flotan en el vacío. Detrás hay reglas internas, capacidad operativa y mecanismos de notificación. Tres palancas que, juntas, explican por qué una plataforma retira casi todo lo denunciado y otra, muy poco.

Primero, el marco normativo interno. Todas las grandes redes prohíben el discurso de odio, pero varía la letra pequeña: qué consideran ataque por atributos protegidos, cómo tratan la deshumanización, qué peso conceden al contexto o al sarcasmo. Ese umbral —si está claro, si se aplica de forma consistente— empuja al alza o a la baja la tasa de retirada. En octubre, el contraste entre el 96 % y el 4 % sugiere interpretaciones y protocolos de aplicación muy distintos.

Segundo, la capacidad de moderación. La automatización filtra mucho, pero no sustituye a equipos humanos que dominen idioma, jerga y matices locales, que operen 24/7 y que prioricen lo más dañino. La diferencia a veces es prosaica: cuántas personas hay en el turno, qué acuerdos de escalado existen con organismos públicos, cuánto tarda una apelación de usuario. Estos detalles, invisibles para la mayoría, mueven la aguja cuando el volumen crece y el ciclo informativo se acelera.

Tercero, el canal por el que entra la denuncia. En septiembre, la ministra Elma Saiz se reunió con representantes de Meta, YouTube y TikTok y pactó reuniones trimestrales y grupos de trabajo permanentes para refinar definiciones y exprimir los canales prioritarios que ofrecen las plataformas. Ese carril rápido —cuando se usa de verdad— reduce la latencia de retirada y evita que un contenido ilícito haga su “tour” de 24 horas por miles de pantallas. En octubre, la mejora de la tasa media y el comportamiento de algunas redes apuntan a que ese engranaje ha empezado a funcionar; donde no se aprecia, la inacción tiene firma y fecha.

Un apunte operativo que rara vez se cuenta: la velocidad importa tanto como el porcentaje. Una eliminación al 96 % en 48 horas no vale lo mismo que un 70 % en 30 minutos. Por eso el siguiente salto de calidad pasa por que las plataformas desglosen plazos, publiquen datos por tipología (deshumanización, violencia, expulsiones…) y por motivo de retirada, e instauren vías de apelación auditables. Lo medido mejora; lo no medido, se diluye.

Octubre bajo la lupa: sucesos que aceleran el odio

Los picos no aparecen de la nada. El observatorio identifica con claridad el papel de la “inseguridad ciudadana”, que en octubre explica el 38 % del discurso racista o xenófobo detectado. La secuencia se repite: una agresión o un vídeo viral, un perfil del presunto autor asociado a migración, y la conversación se contamina a una velocidad que deja atrás cualquier verificación.

En Madrid, la agresión sexual a una menor en Hortaleza y la detención del presunto agresor desencadenaron mensajes pidiendo expulsiones de menores no acompañados y un volumen inusual de descalificaciones que niegan la condición de personas a colectivos enteros. Hubo, además, un vídeo viral en el que una persona de origen magrebí intentaba acceder a una vía por el carril contrario; y una agresión a un joven con discapacidad por parte de varias personas de origen extranjero. Son detonantes que activan prejuicios latentes y dan cobertura a un relato donde todo encaja a martillazos: delito, nacionalidad, generalización. Cuando la reacción de la plataforma es lenta, el mensaje se asienta; cuando es ágil, su capacidad de arrastre se apaga antes de que sea tendencia.

Julio dejó otra lección, Torre Pacheco como telón de fondo, con un salto de retirada por parte de varias redes y un máximo anual de contenidos borrados. La comparativa demuestra dos cosas: que el odio se mueve por corrientes emocionales (no por argumentos) y que se combate con rapidez, no solo con reglas. La red que corta exposición impide la viralidad del bulo o del insulto; la que deja hacer, lo amplifica por omisión.

El marco que ya obliga: el DSA y el papel de España

Desde 2024, el Reglamento de Servicios Digitales (DSA) rige el terreno de juego en la Unión Europea. Las plataformas de muy gran tamaño —más de 45 millones de usuarios al mes— están obligadas a evaluar y mitigar riesgos sistémicos, someterse a auditorías independientes, ser más transparentes con su moderación y colaborar de forma prioritaria con comunicantes fiables certificados por las autoridades. En ese marco encajan TikTok, Facebook, Instagram, YouTube y X.

España ha ido desplegando este engranaje con un coordinador nacional y una interlocución estable entre ministerios y plataformas. El Observatorio Español del Racismo y la Xenofobia actúa como sensor y canaliza denuncias para que entren por la vía preferente. El objetivo es claro: reducir la vida útil del contenido ilícito y acotar su alcance. Octubre sugiere progresos —la media sube y hay redes con retiradas casi totales—, pero también sombras: que una plataforma retire solo el 4 % de lo que se le notifica de forma prioritaria abre la puerta a medidas correctoras y a exigencias de cumplimiento más severas.

Hay una precisión importante: el DSA no impone borrar opiniones “duras” por serlo, ni censura ideas. Lo que exige es un proceso robusto para gestionar contenido ilegal y riesgos sistémicos. Traducido: reglas claras, protocolos diligentes, indicadores que se puedan auditar y colaboración fluida con quienes alertan de forma cualificada. Si todo eso está en su sitio, la curva del daño cambia. Si falta alguna pieza, la conversación pública se intoxica.

Consecuencias para usuarios, marcas y administraciones

Para quien usa redes a diario, lo tangible es el tiempo de exposición. Un contenido de odio que se borra en minutos pierde la mayor parte de su potencial de alcance. Si se queda horas o días, sedimenta y genera ecos en copia, captura o remix. Es la diferencia entre un incidente y una narrativa persistente. El dato de X en octubre —4 %— permite inferir que miles de publicaciones siguieron circulando, con el consiguiente impacto en percepción y convivencia.

Para las marcas, no es un detalle menor. La seguridad de marca depende del entorno en el que se muestran los anuncios. Un “feed” que tolera o tarda en desactivar el discurso de odio no es un lugar cómodo para poner dinero. Desde hace meses, grandes anunciantes miden no solo el precio por mil o la cobertura, sino también la respuesta de la plataforma ante contenidos ilícitos en su vertical. Las redes que muestran datos sólidos y tiempos consistentes de retirada —y que permiten exclusiones eficaces— retienen inversión; las que no, la pierden.

Para la administración, el reto es consolidar el circuito técnico. Reforzar la detección, mantener activas las mesas de trabajo con las tecnológicas y exigir transparencia: plazos, criterios, desglose por tipología, resultados de apelaciones. En septiembre hubo acuerdos concretos —Elma Saiz con Meta, YouTube y TikTok— para reunirse cada trimestre y aterrizar cuestiones técnicas como la definición de discurso de odio o el uso eficiente de los canales prioritarios. Octubre luce avances; el próximo trimestre dirá si se consolidan o si toca apretar.

Todo esto convive con una evidencia incómoda: la moderación perfecta no existe. Pero sí existe la moderación responsable. Implica aceptar errores de clasificación, corregirlos con apelaciones visibles y aprender del patrón que genera los fallos (tipos de insulto, códigos, evasiones). Implica reconocer sesgos y zonas ciegas —por ejemplo, cuando el odio cambia de carril y se disfraza de “opinión”—. Y, sobre todo, implica rendir cuentas con datos comprensibles: no un “cumplimos”, sino indicadores y metodologías abiertas a escrutinio.

También se juega otra liga: la de la prevención. Los picos asociados a la inseguridad no se aplacan solo borrando publicaciones. Necesitan información verificada a tiempo, respuestas institucionales rápidas que eviten vacíos y campañas de contranarrativa que lleguen antes de que el marco del debate lo dicte la desinformación. Cuando un caso echa humo, la comunicación pública llega tarde si espera a que los bulos se consoliden.

Lo que dejan claro las cifras de octubre

Octubre deja una lección de eficacia comparada. Cuando hay reglas claras, equipos entrenados y canales preferentes operativos, la retirada funciona: lo demuestra TikTok con su 96 %. Cuando no, el discurso de odio circula sin freno: lo exhibe X con su 4 %. Entre ambos extremos se mueve un ecosistema que, en conjunto, mejora —42 % de retirada, segunda mejor marca del año—, pero que aún no alcanza lo que cabría esperar en un entorno con obligaciones legales reforzadas y herramientas ya disponibles.

La hoja de ruta inmediata es reconocible. Medir mejor (por tiempos, motivos y tipologías), acelerar la coordinación comprometida en septiembre, exigir planes de mejora a quien se desvíe de forma anómala y sostener la prevención para que cada suceso no se convierta en gasolina para el odio. La conversación pública en España —y en Europa— no puede depender del azar de los feeds. Cuando la moderación llega a tiempo, el daño se reduce. Cuando no llega, los datos hablan solos. Y octubre, con nombres, fechas y porcentajes, ya ha hablado.