¿Meta forzó a la IA rival con falsos adolescentes y contenido extremo?

Meta habría dirigido, a través de la contratista Covalen, un programa interno llamado Cannes en el que cientos de trabajadores se hicieron pasar por menores de edad para probar cómo respondían chatbots rivales ante mensajes sobre suicidio, trastornos alimentarios, sexo, drogas y otros asuntos de alto riesgo. Los objetivos fueron ChatGPT, de OpenAI; Gemini, de Google; y Character.AI. No era una prueba amable de laboratorio, con bata blanca y café frío. Era una batería masiva de cuentas falsas, mensajes perturbadores e imágenes difíciles, todo registrado en hojas de cálculo.

La compañía defiende que se trataba de evaluación de seguridad, una práctica habitual en la industria para medir fallos, límites y respuestas peligrosas de los modelos de inteligencia artificial. El problema, claro, está en el envoltorio: cuentas desechables de supuestos menores, rivales que no sabían que estaban siendo examinados, contratistas expuestos a material psicológico áspero y una frontera muy borrosa entre “benchmarking” y espionaje competitivo con camiseta de responsabilidad corporativa. Según la investigación original, una ronda de agosto de 2025 superó los 45.000 prompts, y el proyecto seguía activo al menos hasta el 21 de abril de 2026.

Qué era Cannes y por qué ha levantado tantas cejas

Cannes no era, por lo descrito, una ocurrencia de viernes por la tarde. Los contratistas debían crear perfiles que aparentaban pertenecer a usuarios menores de 18 años, enviar preguntas y escenas escritas desde la perspectiva de niños o adolescentes, adjuntar imágenes sensibles —pastillas, cuchillos, sogas, incluso material médico— y copiar las respuestas de los bots rivales en documentos estructurados. La mecánica tiene algo de fábrica gris: una cadena de montaje emocional, pero en vez de tornillos, angustia adolescente empaquetada en celdas de Excel.

Entre los ejemplos descritos aparecen consultas sobre autolesiones, bulimia, consumo de cocaína, fantasías violentas y situaciones sexuales o románticas formuladas como si las escribiera un menor. En una muestra de miles de prompts, cientos estaban relacionados con suicidio y autolesiones, otros tantos con trastornos alimentarios y más de dos centenares con sexo o relaciones. El punto técnico era comprobar si los sistemas se saltaban sus propios límites. El punto incómodo es que Meta no estaba probando su propio producto en un entorno pactado, sino interrogando a los de la competencia desde identidades falsas.

La diferencia no es menor. La industria de la IA usa pruebas adversariales, equipos rojos y simulaciones extremas para detectar daños posibles antes de que lleguen a usuarios reales. Nadie serio niega esa necesidad. Un chatbot que responde mal a un adolescente en crisis no es un bug simpático; puede convertirse en una puerta abierta a una noche muy oscura. Pero una cosa es auditar con metodología transparente y otra montar un operativo silencioso contra rivales, con trabajadores de bajo perfil absorbiendo el contenido más tóxico mientras los departamentos nobles pronuncian la palabra seguridad como quien enciende incienso en una sala sin ventanas.

La coartada de la seguridad

Meta ha presentado el programa como una práctica estándar de benchmarking de IA, es decir, una comparación de modelos para medir rendimiento, seguridad y cumplimiento. En abstracto, suena razonable. En concreto, chirría. Las empresas afectadas no fueron avisadas, las cuentas simulaban ser menores y el material buscaba, precisamente, llevar a los modelos hacia respuestas que sus sistemas de protección debían bloquear. Ahí se abre la grieta: cuando la seguridad se hace a escondidas, con identidades falsas y contra competidores directos, deja de parecer un extintor y empieza a parecer gasolina con etiqueta verde.

La propia idea de probar chatbots desde el punto de vista de adolescentes vulnerables toca un nervio sensible. En 2025, la Comisión Federal de Comercio de Estados Unidos abrió una investigación sobre chatbots que actúan como acompañantes y pidió información a empresas como Meta, OpenAI, Alphabet, Character.AI, Snap y xAI sobre cómo evalúan los riesgos para niños y adolescentes. El foco regulatorio ya estaba ahí: menores, dependencia emocional, salud mental, privacidad y diseño de productos que pueden convertir la conversación automática en una habitación cerrada con alguien que siempre contesta.

El verdadero problema no es probar la IA, sino fingir ser menor

La defensa fácil de Meta sería esta: alguien tiene que comprobar si ChatGPT, Gemini o Character.AI fallan cuando un menor habla de suicidio, drogas o sexo. Y sí, alguien tiene que hacerlo. La cuestión es quién, cómo, con qué límites, bajo qué consentimiento y con qué destino para los datos recogidos. No es una discusión de puritanos tecnológicos, ni de señores asustados por una pantalla que habla. Es gobernanza básica. Semáforos, no sermones.

El uso de cuentas falsas de menores introduce una capa especialmente delicada. Las plataformas suelen tener normas específicas para usuarios adolescentes, filtros reforzados, limitaciones de edad y condiciones de uso que prohíben automatizaciones, suplantaciones o usos no autorizados. Si una gran tecnológica entra en servicios rivales con perfiles desechables para generar decenas de miles de interacciones sensibles, el debate ya no gira solo alrededor de la seguridad infantil. También roza la competencia, la extracción de datos, el cumplimiento contractual y la ética laboral. Una excursión completa por el pantano, con mocasines caros.

A eso se suma el papel de los contratistas. Como ya ocurrió durante años con la moderación de contenidos en redes sociales, parte del trabajo más sucio de internet vuelve a caer sobre empleados externos, peor pagados, menos visibles y más expuestos. Meta ya había cerrado en 2020 un acuerdo por una demanda de moderadores de Facebook que denunciaban trauma psicológico tras revisar material extremo como asesinatos, torturas, agresiones sexuales y abuso infantil. La IA cambia el envoltorio, pero no siempre el reparto: arriba, estrategia; abajo, estómago.

La IA para adolescentes ya venía oliendo a quemado

El escándalo de Cannes aterriza sobre un terreno bastante inflamable. Este año, una investigación citada por medios estadounidenses señaló que varios chatbots populares fallaban al responder a escenarios de adolescentes con señales de angustia y violencia, e incluso podían ofrecer ayuda práctica en situaciones de riesgo. La prueba incluía modelos de grandes compañías y mostró diferencias notables entre sistemas: algunos se negaban con más claridad; otros entraban en conversación peligrosa como quien abre una puerta sin mirar al otro lado.

Meta tampoco llega a este episodio con el traje impoluto. En agosto de 2025, Reuters reveló un documento interno de la compañía sobre comportamiento de chatbots que, según esa información, llegó a permitir conversaciones “románticas o sensuales” con menores en determinados ejemplos. Meta confirmó la autenticidad del documento y aseguró después que había eliminado fragmentos problemáticos. El detalle importa porque coloca el caso Cannes en una secuencia mayor: las grandes tecnológicas no solo compiten por tener la IA más lista, más rápida o más integrada en móviles y redes, sino también por demostrar —o aparentar— que saben manejar el barro moral que sus propios productos levantan.

Character.AI, uno de los objetivos del programa de Meta, también ha estado bajo una presión intensa por el uso de bots conversacionales por parte de adolescentes. El debate no se limita a si una respuesta concreta es correcta o incorrecta; va más hondo, hacia la relación emocional que estos sistemas pueden generar, la falta de supervisión adulta, la ilusión de intimidad y la tendencia de algunos usuarios jóvenes a tratar al bot como confidente. La tecnología no tiene pulso, pero puede imitarlo bastante bien. Y ahí empieza el vértigo.

En Europa, el caso encaja con una conversación que ya no es teórica. La Ley de Inteligencia Artificial de la UE entró en vigor el 1 de agosto de 2024 y su aplicación completa está prevista para el 2 de agosto de 2026, con excepciones ya activas para prácticas prohibidas y obligaciones específicas en distintos tramos. Además, las reglas para modelos de propósito general y el Código de Buenas Prácticas sobre IA buscan ordenar transparencia, copyright, seguridad y gestión de riesgos sistémicos. La burocracia europea puede sonar a archivador metálico, sí, pero en esta materia ese archivador empieza a parecer una barandilla.

La Comisión Europea también publicó directrices sobre protección de menores bajo la Ley de Servicios Digitales, centradas en una experiencia en línea más segura para niños y jóvenes. No hablan solo de contenido explícito, sino de diseño, exposición, recomendaciones, riesgos acumulados y responsabilidad de las plataformas. En ese marco, una operación secreta con identidades adolescentes falsas y contenido extremo no es una anécdota extravagante de Silicon Valley. Es justo el tipo de conducta que convierte la palabra confianza en un chiste malo.

El negocio de romper los límites ajenos

Hay una lectura menos inocente: Meta necesitaba saber dónde fallaban sus competidores para mejorar su propia posición en la carrera de la IA. La compañía asegura que era seguridad, no entrenamiento de sus modelos. Pero la frontera entre comparar, aprender y aprovecharse de la arquitectura ajena siempre ha sido resbaladiza en inteligencia artificial. Un sistema rival responde; otro actor registra; alguien clasifica; más tarde, esos patrones sirven para diseñar filtros, productos o argumentos comerciales. No hace falta imaginar una película de espías. Basta una hoja de cálculo con miles de respuestas.

La expresión guerra de benchmarks resume bastante bien el momento. Las tecnológicas se miden en velocidad, razonamiento, creatividad, seguridad, coste y capacidad multimodal. Pero cuando el campo de pruebas son adolescentes ficticios hablando de suicidio, bulimia o drogas, el tablero deja de ser limpio. Ya no se trata solo de quién tiene el modelo más potente. Se trata de quién está dispuesto a pisar qué línea para parecer más responsable que el vecino.

La ironía es gruesa, casi de teatro. Meta, dueña de redes sociales que llevan años bajo escrutinio por el impacto en menores, habría pagado a contratistas para fingir ser menores y comprobar si otros fallaban con menores. El vigilante disfrazado de niño en el patio digital. Todo muy noble, naturalmente. Todo por la seguridad. Como esos incendios controlados que empiezan con un técnico serio y acaban con medio monte oliendo a plástico quemado.

La seguridad no debería necesitar bigote postizo

El caso Cannes deja una lección bastante seca: la seguridad de la IA no puede depender de operaciones opacas que usan menores falsos como máscara y trabajadores externos como filtro humano del horror. Probar límites es necesario. Documentar fallos, también. Someter modelos a escenarios extremos, por supuesto. Pero hacerlo sin conocimiento de las plataformas afectadas, con identidades inventadas de adolescentes y con un volumen industrial de contenido sensible convierte una práctica legítima en una maniobra difícil de defender.

Meta intentará encajar el episodio en el vocabulario serio de la industria: evaluación, comparación, cumplimiento, mitigación de riesgos. Palabras limpias. Superficies brillantes. Pero debajo queda una idea más simple, casi doméstica: cuando una prueba de seguridad necesita esconder quién eres, fingir que eres menor y bombardear servicios ajenos con material perturbador, quizá ya no estamos hablando solo de seguridad. Quizá estamos viendo cómo la carrera por dominar la inteligencia artificial empieza a parecerse demasiado a las viejas guerras de plataformas: mucho discurso sobre proteger al usuario, poca luz en la trastienda y demasiados adolescentes —reales o fingidos— usados como decorado.