¿Cómo influyó Instagram en la muerte de una niña italiana de 12 años?

La familia de Rossella Roggero Ugues sostiene que Instagram no fue un simple decorado en el deterioro emocional de su hija, sino una maquinaria que detectó su vulnerabilidad, aprendió de ella y siguió alimentándola con contenido relacionado con las autolesiones. Rossella tenía 12 años cuando murió por suicidio en 2024, apenas cinco meses después de comenzar a buscar publicaciones que reflejaban su malestar.

No existe todavía una sentencia que establezca que el algoritmo causó su muerte. Esa diferencia importa. Y mucho. La demanda presentada en Italia por sus padres y otras familias pretende demostrar que Meta y TikTok conocían los riesgos de sus sistemas de recomendación para los menores y no hicieron lo suficiente para neutralizarlos. Las compañías rechazan las acusaciones y defienden que cuentan con filtros, restricciones de edad y herramientas de protección. El litigio decidirá si esas barreras eran reales o apenas una puerta pintada en la pared.

El caso trasciende la tragedia familiar porque coloca en primer plano la responsabilidad de las plataformas cuando no se limitan a alojar contenidos, sino que eligen activamente qué mostrar, cuántas veces repetirlo y ante qué usuario. La pantalla parece pasiva; detrás, sin embargo, trabaja una fábrica de recomendaciones abierta día y noche.

Una cuenta secreta y cinco meses de caída

Irene Roggero Ugues y su marido no comprendieron la dimensión de la actividad digital de Rossella hasta después de su muerte. Cuando lograron desbloquear sus dispositivos encontraron un uso de las redes sociales mucho más intenso del que conocían y una cuenta secreta de Instagram llamada “Just a dead pers0n”, con un cero en lugar de la letra o.

El nombre era una señal sombría, aunque solo resultó visible cuando ya no podían preguntarle a Rossella qué significaba para ella. Durante meses, la niña había entrado en contacto con publicaciones sobre depresión, desesperanza y autolesiones. Según la reconstrucción familiar, comenzó a buscar ese material en septiembre de 2023 porque encajaba con su estado emocional. Después, el sistema de recomendaciones continuó mostrándole contenidos semejantes.

Ahí aparece el centro incómodo de la historia. Una búsqueda aislada puede expresar curiosidad, malestar pasajero, una tarea escolar o una petición silenciosa de ayuda. El algoritmo no conoce esos matices. Observa que una persona se detiene ante una publicación, vuelve a verla, pulsa sobre otra parecida o permanece unos segundos más frente a la pantalla. Después hace aquello para lo que fue diseñado: aumentar la probabilidad de que continúe mirando.

La plataforma no necesita comprender el dolor. Le basta con medir la atención.

Los padres describen el cambio de Rossella como un proceso vertiginoso. La parte alegre y sociable de su personalidad fue quedando sepultada bajo un malestar que crecía con rapidez, como una mancha de humedad que al principio parece pequeña y después ocupa toda la pared. Irene lo ha comparado con una enfermedad repentina ante la que la familia se sintió impotente.

La demanda no sostiene únicamente que la menor encontró contenido dañino. Afirma algo más grave: que la arquitectura de las plataformas pudo convertir una fragilidad emocional en una secuencia interminable de algoritmos de recomendación, reforzando la sensación de que no existía nada fuera de aquel túnel.

Rossella tenía, además, una edad inferior al umbral italiano para prestar por sí sola un consentimiento válido al tratamiento de sus datos en esta clase de servicios. En Italia, los menores de 14 años necesitan la intervención de quienes ejercen la responsabilidad parental. Una norma bastante clara sobre el papel. En la práctica, basta con introducir otra fecha de nacimiento para atravesar el torno digital, un control de acceso que durante años ha tenido la consistencia de una cortina.

La demanda que pone al algoritmo en el banquillo

Los padres de Rossella forman parte de la primera acción colectiva presentada en Italia que cuestiona directamente la responsabilidad de las grandes plataformas digitales y de sus algoritmos en los daños sufridos por menores. La causa está impulsada junto con MOIGE, una asociación italiana de familias, y dirigida por el abogado Stefano Commodo.

El procedimiento reclama límites más estrictos para el acceso infantil, controles de edad eficaces y advertencias comprensibles sobre los riesgos de las plataformas. No pretende, al menos según sus promotores, declarar la guerra a internet ni devolver a los adolescentes a una infancia en blanco y negro. Busca retirar los mecanismos que pueden resultar especialmente peligrosos para quienes atraviesan una crisis psicológica.

Ese matiz rompe el viejo debate entre tecnófilos sonrientes y apocalípticos con teléfono de teclas. Las redes permiten conversar, encontrar comunidades, aprender, crear y escapar del aislamiento. También pueden amplificar humillaciones, comparaciones obsesivas, discursos extremos y materiales autodestructivos. Ambas cosas son verdad. La utilidad de una herramienta no absuelve automáticamente a quien decide cómo funciona.

El caso deberá resolver cuestiones jurídicas endiabladas sobre la responsabilidad algorítmica. ¿Puede probarse que una recomendación agravó de forma sustancial el estado de una persona concreta? ¿Qué sabía la empresa sobre ese riesgo? ¿Qué medidas eran técnicamente posibles? ¿La plataforma actuó con diligencia o colocó la responsabilidad en unos padres que desconocían lo que ocurría dentro del teléfono?

No bastará con demostrar que Rossella utilizaba Instagram. Millones de menores lo hacen sin sufrir consecuencias comparables. La acusación tendrá que conectar el funcionamiento específico del servicio, la exposición reiterada a determinados contenidos y la evolución del daño. Meta, por su parte, podrá alegar que la salud mental depende de numerosos factores personales, familiares y sociales, y que confundir correlación con causalidad produce titulares sencillos, pero malas sentencias.

Lo que sostienen Meta y TikTok

Meta rechaza que sus servicios sean perjudiciales para los jóvenes en los términos planteados por la demanda. La empresa recuerda que Instagram dispone de Cuentas para adolescentes, perfiles con restricciones automáticas sobre quién puede contactar con los menores, qué publicaciones pueden ver y cuánto tiempo pasan conectados. Los usuarios de menor edad necesitan autorización parental para relajar algunos de esos controles.

La compañía también asegura haber endurecido durante 2026 los filtros destinados a impedir que los adolescentes reciban repetidamente ciertos contenidos sensibles. Ha añadido configuraciones inspiradas en clasificaciones para mayores de 13 años y sistemas destinados a introducir más variedad en las recomendaciones. La defensa empresarial resulta previsible: no niega que existan riesgos, pero sostiene que lleva años reforzando la protección infantil.

TikTok afirma que elimina más del 99 % de los contenidos que vulneran sus políticas de salud mental y conducta, bloquea búsquedas potencialmente dañinas y dirige a los usuarios vulnerables hacia recursos especializados. También limita la recomendación reiterada de publicaciones sobre recuperación de autolesiones, incluso cuando no glorifican esas conductas. Sobre el papel, un cortafuegos razonable.

Son medidas relevantes. La cuestión judicial será otra: si funcionaron cuando debían funcionar, si podían eludirse con facilidad y si la plataforma identificó correctamente a quienes eran menores. Un cinturón de seguridad colocado después del accidente puede ser un buen cinturón. No modifica lo ocurrido antes ni borra la posible responsabilidad empresarial.

Las empresas insisten asimismo en la implicación familiar. Los padres pueden establecer límites horarios, supervisar determinadas actividades y controlar la configuración de las cuentas. Sobre el folleto corporativo suena impecable. En una casa real, con trabajo, colegio, varios dispositivos, perfiles secundarios, contraseñas y adolescentes que conocen mejor el teléfono que los adultos, el panorama se ensucia bastante. El control parental tiene límites humanos.

El bucle de recomendación: cuando mirar se convierte en señal

Los algoritmos de recomendación no se limitan a ordenar publicaciones por fecha. Construyen una predicción constante sobre aquello que mantendrá a cada usuario conectado. Analizan clics, pausas, repeticiones, comentarios, búsquedas, cuentas seguidas y vídeos abandonados a mitad. Cada gesto deja una miga de pan. El sistema recoge miles y dibuja un camino: eso es la personalización algorítmica.

Ese mecanismo puede ser inocuo cuando descubre que alguien disfruta viendo recetas de tortilla, restauraciones de muebles o vídeos de perros entrando en piscinas. El problema aparece cuando interpreta una búsqueda sobre tristeza como una preferencia estable y empieza a ofrecer variaciones del mismo tema. El usuario ya no explora internet: internet se estrecha alrededor del usuario.

A una persona adulta y emocionalmente estable, esa repetición puede resultarle pesada. Para una niña con sufrimiento psicológico, puede adquirir otro significado. La pantalla parece confirmar una y otra vez que el mundo está compuesto por gente que se siente igual, imágenes que normalizan el daño y mensajes que convierten la desesperanza en identidad. No es necesario que una publicación ordene hacer algo. A veces basta con crear una atmósfera.

El sistema tampoco piensa en categorías morales. No distingue entre una afición saludable y una obsesión destructiva salvo que los ingenieros incorporen límites específicos. Su métrica fundamental suele ser la permanencia, la interacción o la probabilidad de regreso. El dolor intenso genera atención intensa. Y la atención, en la economía digital, es materia prima.

La demanda italiana compara algunos mecanismos de recompensa con los de una máquina tragaperras. Las notificaciones, los “me gusta”, el desplazamiento infinito y la incertidumbre sobre la siguiente publicación producen pequeñas expectativas. Quizá la próxima imagen sea más interesante. Quizá llegue un comentario. Quizá aparezca algo que calme el malestar. El dedo sigue bajando mientras la noche se hace más corta. Ahí operan el desplazamiento infinito y la reproducción automática.

Conviene no reducir este fenómeno a la popular frase de que cada notificación libera dopamina. El cerebro no es una cafetera que dispense una dosis idéntica por cada corazón rojo. La dopamina participa en el aprendizaje, la motivación y la anticipación de recompensas, dentro de un proceso mucho más complejo. Sin embargo, los estímulos variables e imprevisibles sí pueden favorecer conductas repetitivas.

El modelo de negocio añade otra capa. Cuanto más tiempo permanece una persona dentro de la aplicación, más oportunidades existen para mostrar publicidad, recopilar señales y ajustar futuras recomendaciones. La plataforma convierte la repetición en ingresos. Ese engranaje no convierte automáticamente a las empresas en culpables de cada daño, pero sí impide tratar el consumo compulsivo como un accidente completamente ajeno a su diseño.

La ciencia advierte, pero no firma una sentencia simple

Los datos sanitarios justifican la preocupación, aunque no permiten atribuir cada caso individual a una aplicación. La Organización Mundial de la Salud calcula que el uso problemático de redes sociales entre adolescentes de Europa, Asia central y Canadá pasó del 7 % en 2018 al 11 % en 2022. La proporción fue superior entre las chicas, con un 13 %, frente al 9 % de los chicos.

Ese uso problemático de redes sociales presenta rasgos parecidos a una adicción: dificultad para controlar el tiempo conectado, abandono de otras actividades, malestar cuando no se accede a la red y continuidad pese a las consecuencias negativas. Se relaciona con peor descanso, menor bienestar y dificultades en la vida cotidiana. Relación, de nuevo, no significa causa automática. Pero tampoco significa que podamos mirar hacia otro lado silbando.

Un estudio publicado en JAMA Pediatrics siguió a estudiantes de secundaria y encontró una asociación entre la comprobación habitual de redes sociales y cambios posteriores en la sensibilidad cerebral ante recompensas y castigos sociales. El trabajo no demostró que Instagram transformara el cerebro de todos los participantes ni que esas diferencias fueran necesariamente patológicas. Mostró una señal que merece atención.

El cerebro adolescente todavía está desarrollando sistemas de autocontrol, identidad y respuesta social. Por eso una reacción, un comentario o una exclusión virtual pueden adquirir un peso desproporcionado. No porque los jóvenes sean criaturas incapaces, sino porque atraviesan una etapa en la que la pertenencia y la valoración ajena tienen una intensidad particular.

La conclusión científica más prudente es menos espectacular que muchos titulares: determinadas funciones de las redes pueden perjudicar la salud física y mental de algunos jóvenes, pero la investigación disponible no permite establecer una causalidad uniforme para toda la población adolescente. Las mismas plataformas también ofrecen amistad, apoyo e integración a quienes no encuentran esas redes fuera de internet.

La pregunta correcta no es si las redes sociales son buenas o malas en bloque, como si fueran el brócoli o el amianto. Hay que observar qué funciones, qué usuarios, qué edades y qué momentos vitales. Un adolescente que busca información sobre una enfermedad rara puede encontrar una comunidad valiosa. Otro que atraviesa una depresión puede quedar atrapado en recomendaciones que le muestran la versión más oscura de sí mismo.

Eso complica el caso de Rossella, pero no lo vacía. La ciencia puede ser incapaz de afirmar que una plataforma provoca por sí sola una muerte y, al mismo tiempo, advertir que ciertos diseños elevan el riesgo para personas vulnerables. En materia de seguridad, la ausencia de una ecuación perfecta no concede permiso para experimentar con millones de menores.

Europa endurece la vigilancia mientras los padres pierden terreno

La batalla italiana llega cuando Europa está dejando de considerar los problemas de las redes como simples fallos de contenido. Durante años, la discusión giró alrededor de retirar una publicación ilegal después de que alguien la denunciara. La legislación europea comienza a mirar también la estructura del producto: quién recibe cada mensaje, por qué lo recibe y qué mecanismos lo empujan a continuar.

La Ley de Servicios Digitales obliga a las grandes plataformas a evaluar y reducir riesgos sistémicos que afecten a los menores, incluida su salud física y mental. Las directrices europeas recomiendan perfiles privados por defecto, mayor control sobre las sugerencias, protección frente a contactos de desconocidos y desactivación de funciones capaces de fomentar un uso compulsivo.

Bruselas dio un paso más en febrero de 2026 al concluir de forma preliminar que el diseño adictivo de TikTok podía vulnerar la normativa europea. La Comisión Europea señaló elementos como el desplazamiento infinito, la reproducción automática, las notificaciones y un recomendador altamente personalizado. Se trata de una conclusión provisional, no de una condena definitiva, pero cambia el terreno: el diseño ya no se presenta como una elección neutral de producto.

En abril de 2026, la Comisión también comunicó de forma preliminar que Meta podría haber incumplido sus obligaciones al no impedir adecuadamente que menores de 13 años utilizaran Instagram y Facebook. La investigación afecta a uno de los puntos más frágiles de la defensa de las plataformas. Todos prometen experiencias distintas para adultos y adolescentes; esas promesas sirven de poco cuando no saben con suficiente fiabilidad quién está al otro lado.

La verificación de edad se ha convertido así en una pequeña guerra burocrática y tecnológica. Pedir documentos de identidad puede proteger a los niños, pero también obliga a millones de adultos a entregar información sensible. Estimar la edad mediante el rostro reduce ese intercambio de documentos, aunque plantea dudas sobre precisión y privacidad. Dejar que cada usuario marque una casilla, en cambio, equivale a preguntar al lobo si ha cumplido los 18.

Europa trabaja en sistemas que permitan demostrar que una persona supera determinada edad sin revelar su identidad completa. La tecnología existe, aunque su implantación resulta desigual y no resuelve todos los atajos. Un menor puede usar el dispositivo de un adulto, abrir cuentas secundarias o desplazarse hacia servicios menos regulados. La privacidad y la seguridad no siempre avanzan cogidas de la mano.

Reino Unido anunció el 15 de junio de 2026 su intención de prohibir el acceso a las principales redes sociales a los menores de 16 años a partir de la primavera de 2027. El plan incluiría Instagram, TikTok, Snapchat, Facebook, YouTube y X, mientras dejaría fuera servicios de mensajería como WhatsApp y Signal. También prevé restricciones sobre emisiones en directo y contactos con desconocidos.

La prohibición británica ofrece una respuesta políticamente nítida: se traza una edad y se cierra la puerta. No está claro que sea la respuesta más eficaz. Puede reducir la exposición, pero también trasladar a algunos menores hacia rincones más opacos, privar a otros de comunidades útiles y crear una falsa sensación de seguridad. Prohibir es sencillo en un discurso; verificar millones de edades sin construir un sistema de vigilancia es otra cosa.

Mientras tanto, las empresas presentan el control parental como una pieza central de la protección. Lo es, pero tiene límites evidentes. Supervisar varias aplicaciones, dispositivos, perfiles y conversaciones exige tiempo, conocimientos técnicos y una atención casi permanente. La plataforma trabaja las 24 horas; los padres duermen, cocinan, se desplazan, cuidan a otros hijos y, con cierta extravagancia, acuden a su empleo.

La situación es aún más compleja porque el control absoluto puede destruir aquello que permite detectar el problema: la confianza. Un adolescente que percibe una vigilancia policial aprende a ocultarse mejor. Cambia de cuenta, borra historiales, utiliza otro teléfono o deja de contar lo que siente. La seguridad digital no consiste en leer cada mensaje por encima del hombro.

El psicólogo Federico Tonioni, responsable de un centro especializado en psicopatología relacionada con internet en el hospital Gemelli de Roma, advierte contra la idea de que una fiscalización constante sea una presencia saludable. Escuchar y observar cambios puede ser más útil que convertir la casa en una aduana.

La responsabilidad familiar existe. También la escolar, sanitaria e institucional. Pero una compañía que analiza millones de señales por segundo dispone de una capacidad de detección que ningún padre posee. Puede identificar búsquedas repetidas, sesiones nocturnas, consumo compulsivo de una misma temática y cambios bruscos en los patrones de uso. Si utiliza esa precisión para vender atención, resulta razonable exigirle que también la emplee para reducir daños.

Ese es uno de los argumentos más sólidos detrás de la demanda italiana. No se puede diseñar un producto deliberadamente absorbente, personalizarlo con una potencia industrial y después afirmar que corresponde a cada familia vigilar sus efectos minuto a minuto. Sería como vender un juguete que modifica su comportamiento en secreto y entregar a los padres un folleto de tres páginas para que descubran cuándo se vuelve peligroso.

Tampoco conviene imaginar que un filtro automático resolverá el problema. El lenguaje adolescente es cambiante, irónico y lleno de códigos. Los contenidos nocivos pueden esconderse bajo errores ortográficos, emojis, música o referencias indirectas. Algunas publicaciones hablan de recuperación y apoyo, aunque utilicen palabras asociadas a autolesiones. El sistema debe distinguir contextos sin borrar conversaciones legítimas ni dejar pasar aquello que presenta el daño como salida.

La moderación perfecta no existe. La diligencia suficiente, sí debería existir.

Rossella y la pregunta que las plataformas ya no pueden esquivar

El proceso italiano no decidirá si internet es culpable de la tristeza adolescente. Tampoco podrá explicar por completo lo que sucedió en la mente de Rossella. Una muerte por suicidio rara vez responde a una sola causa y cualquier relato que prometa una explicación limpia acaba mutilando la realidad.

Lo que sí puede aclarar el tribunal es si Meta y TikTok adoptaron medidas proporcionadas ante riesgos que ya conocían, si sus sistemas de edad eran adecuados y si los algoritmos recomendaron material peligroso de una manera previsible y evitable. En otras palabras, determinará hasta dónde llega la responsabilidad de una empresa cuando su producto no se limita a alojar contenidos, sino que elige activamente cuál mostrar, cuántas veces y a quién.

Meta y TikTok han introducido protecciones importantes. Sería injusto ignorarlo. También sería ingenuo aceptar que toda medida anunciada funciona porque aparece acompañada de un vídeo corporativo y una familia sonriente. Las salvaguardas deben poder auditarse, medirse y discutirse con datos accesibles a investigadores independientes. La seguridad no puede descansar únicamente en la palabra de quien obtiene ingresos del sistema examinado.

La historia de Rossella desnuda una asimetría brutal. Una niña estaba aprendiendo a comprender sus emociones. Frente a ella había una tecnología entrenada para comprender su comportamiento. La primera necesitaba ayuda; la segunda necesitaba interacción. Cuando ambos intereses chocaron, nadie pareció capaz de detener la secuencia.

Irene Roggero Ugues se ha unido al litigio porque cree que otras familias todavía pueden reconocer riesgos que ella conoció demasiado tarde. Su batalla no devolverá a Rossella ni reducirá su vida al nombre de una cuenta secreta. Puede, sin embargo, obligar a mirar dentro de esa caja negra donde una búsqueda se convierte en perfil, el perfil en recomendación y la recomendación, repetida cientos de veces, en una forma de paisaje.

Hasta ahora, las plataformas han pedido a los padres que vigilen mejor y a los adolescentes que configuren correctamente sus cuentas. El caso de Asti invierte la pregunta. ¿Quién vigila al sistema que clasifica y persigue la atención de los menores? La respuesta ya no cabe en un menú de privacidad.

Si tú o alguien cercano atraviesa una crisis o presenta pensamientos suicidas, en España está disponible la Línea 024, gratuita, confidencial y operativa las 24 horas. Ante una emergencia inmediata, debe llamarse al 112.