La paradoja de los vídeos que la IA no reconoce

Los chatbots pueden describir lo que aparece en un vídeo y, aun así, equivocarse al decir si la escena ocurrió de verdad. Una prueba de NewsGuard con clips creados por Sora encontró que, cuando no tenían una marca de agua visible, Grok falló el 95% de las veces, ChatGPT el 92,5% y Gemini el 78%. El resultado desmonta una expectativa extendida: que una inteligencia artificial reconocerá con facilidad los vídeos creados por otra solo porque también es una IA.

El problema no consiste únicamente en que estas herramientas no identifiquen algunos vídeos sintéticos. También pueden presentarlos como auténticos, añadirles un contexto que no aparece en las imágenes y responder con una seguridad que no se corresponde con lo que realmente pueden verificar. Para entender esa paradoja hay que separar dos capacidades distintas: interpretar una escena no equivale a comprobar su procedencia.

Qué puso a prueba NewsGuard y qué significan los porcentajes

NewsGuard preparó 20 vídeos con Sora a partir de afirmaciones falsas recopiladas en su base de datos de desinformación. Después produjo dos versiones de cada clip: una conservaba la marca de agua visible y la otra no. La comparación buscaba reproducir una situación corriente en internet, donde un vídeo puede circular tras ser descargado, recortado, comprimido o vuelto a publicar, a veces sin las señales con las que salió del sistema que lo creó.

Los investigadores subieron los vídeos a Grok, ChatGPT y Gemini y plantearon dos cuestiones sobre cada pieza: si era real y si había sido generada por inteligencia artificial. En cada bloque, con marca y sin ella, cada modelo recibió 40 consultas. El criterio de evaluación fue exigente: si el chatbot no identificaba el clip como sintético, se contabilizaba un fallo; también si se negaba a responder sin dejar claro que no podía verificar el origen. No se estaba midiendo si el modelo describía bien las imágenes, sino si distinguía la generación artificial.

Sin marca visible, Grok se equivocó en el 95% de los casos, ChatGPT en el 92,5% y Gemini en el 78%. Con la marca, las tasas cambiaron de forma notable: Grok falló aproximadamente el 30% de las veces, ChatGPT el 7,5% y Gemini no registró errores en esa tanda. Son resultados de un experimento concreto, no una medición universal de todas las versiones, vídeos o circunstancias. Aun así, la diferencia entre ambas condiciones muestra hasta qué punto una pista de procedencia puede influir en la respuesta.

La paradoja de ChatGPT y Sora

El dato de ChatGPT tiene un matiz particular porque Sora y el chatbot pertenecen a OpenAI. Podría parecer razonable esperar que un producto de la misma compañía reconociera con más facilidad los vídeos de su generador. Sin embargo, en la prueba, ChatGPT falló en 37 de las 40 interacciones sin marca. La relación empresarial no se tradujo en una capacidad fiable para identificar el origen de los clips que analizaba.

Eso no demuestra que el sistema carezca de cualquier conocimiento sobre Sora ni que nunca pueda reconocer sus señales. Lo que revela, con más precisión, es que no basta con compartir fabricante para autenticar un archivo. Si el vídeo llega sin una señal de procedencia accesible y el modelo se apoya principalmente en lo que ve, puede no tener una forma sólida de distinguir una grabación de una escena sintética convincente.

También conviene separar la expectativa del uso para el que se diseñan estos chatbots. Un modelo multimodal puede resumir acciones, reconocer objetos o explicar el contenido aparente de una secuencia. Eso no lo convierte automáticamente en una herramienta forense. Cuando se le pregunta si un vídeo es real, el usuario puede esperar un veredicto; pero, si faltan el archivo original, los datos de origen o una cadena fiable de publicación, la respuesta puede ser una inferencia presentada con demasiada fluidez.

Cuando el chatbot añade un contexto que no estaba en el vídeo

Uno de los ejemplos más delicados del informe muestra a un supuesto agente del Servicio de Inmigración y Control de Aduanas de Estados Unidos arrestando a un niño inmigrante de seis años. El clip era falso y se había generado con Sora sin una marca visible. ChatGPT y Gemini lo trataron como si fuera auténtico y lo relacionaron con informaciones periodísticas, además de situar la escena en la frontera entre Estados Unidos y México. La respuesta no se limitó a interpretar las imágenes: construyó alrededor de ellas un relato.

Ese salto importa porque un vídeo aislado puede dejar preguntas abiertas, mientras que una explicación redactada con tono informativo parece cerrarlas. Si el chatbot menciona supuestas fuentes o un lugar concreto, el usuario puede entender que ha contrastado el episodio, aunque la herramienta no haya demostrado que el archivo procede de una fuente fiable. La plausibilidad del contexto funciona entonces como una capa adicional de autoridad, no como una prueba independiente.

NewsGuard describió otro caso en el que los tres sistemas avalaron como auténtico un vídeo de un empleado de Delta Air Lines que expulsaba a un pasajero por llevar una gorra política. Grok, por su parte, llegó a presentar otro clip como un segmento de un supuesto medio llamado Sora News, que no existía. Estos ejemplos ilustran dos riesgos distintos: dar por real una escena inventada y fabricar un marco que haga más creíble esa escena. No implican intención de engañar, pero sí muestran el efecto que puede tener una respuesta segura cuando el modelo no dispone de una verificación suficiente.

Por qué ver una escena no es verificarla

Un sistema capaz de procesar imágenes puede reconocer que una persona abre una puerta, que un coche cruza una calle o que alguien habla frente a una cámara. Esa descripción se basa en el contenido visual. Comprobar si el suceso ocurrió, quién grabó el clip o si fue alterado requiere información diferente: el archivo original, su procedencia, el contexto de publicación y, cuando existen, señales técnicas que permitan seguir sus cambios. El contenido visible cuenta qué parece suceder; no certifica cuándo ni dónde ocurrió.

Los vídeos generados han mejorado en textura, iluminación, movimiento y continuidad. Algunos ya no presentan errores grotescos que delaten de inmediato su fabricación. A la vez, los modelos conversacionales suelen producir respuestas coherentes incluso cuando la información disponible no permite alcanzar una conclusión. Esa combinación puede ocultar la incertidumbre: una escena plausible y una explicación bien escrita se refuerzan mutuamente, aunque ninguna pruebe la autenticidad de la otra.

En ciertos clips todavía pueden aparecer indicios visuales: manos o rasgos que cambian entre fotogramas, texto ilegible en carteles, sombras incoherentes, objetos que aparecen y desaparecen o movimientos que no mantienen la continuidad. También puede resultar extraña la sincronía entre el habla y los labios o el comportamiento de los elementos del fondo. Pero son pistas para revisar con cautela, no una prueba concluyente. Los vídeos reales pueden contener defectos por la compresión o la edición, y los generados pueden evitar señales que antes eran frecuentes.

Por eso tampoco es fiable decidir por la duración del clip, su aspecto demasiado pulido o una anomalía aislada. Un vídeo breve no es necesariamente artificial, del mismo modo que una grabación larga no queda autenticada por el mero hecho de mantener la continuidad. Las señales visuales pueden orientar una comprobación, pero no sustituyen la búsqueda de una fuente original ni la comparación con información independiente. El aspecto del vídeo es solo una parte del examen.

Las marcas de agua ayudan, pero pueden perderse

La mejora en los resultados cuando el material llevaba una marca visible indica que los chatbots pueden utilizarla como una pista clara. Sin embargo, el efecto no fue idéntico en los tres modelos: Grok mantuvo una tasa de error cercana al 30%, ChatGPT bajó al 7,5% y Gemini no falló en ese bloque concreto. La marca ayudó en esa prueba, pero no convirtió la detección en una capacidad garantizada para cualquier sistema o archivo.

Además, una señal visible puede desaparecer durante el recorrido del vídeo. Recortar un encuadre, volver a exportar el archivo o aplicar una edición puede ocultar el sello. A veces no hace falta una operación sofisticada: basta con que el clip se publique en una versión modificada. Cuando la pista desaparece, el modelo puede quedarse con las imágenes y sus propias inferencias, que fueron precisamente una base débil en la prueba sin marca.

OpenAI ha señalado que los vídeos generados con Sora incorporan señales visibles e invisibles de procedencia y metadatos basados en C2PA. Este estándar permite adjuntar información sobre el origen y las modificaciones de un archivo, siempre que esa información se conserve y pueda comprobarse. No es un detector universal ni un certificado de que lo mostrado sea verdadero: aporta datos sobre la historia del archivo, no demuestra que la escena represente un hecho real.

Los metadatos también pueden perderse al pasar por aplicaciones y plataformas que comprimen, recodifican o editan los vídeos. En ese proceso, la imagen puede seguir intacta para quien la mira mientras desaparece parte de la información que acompañaba al archivo. La dificultad, por tanto, no se limita a crear marcas robustas: también depende de que los servicios que distribuyen contenido mantengan sus señales de procedencia en vez de eliminarlas al procesarlo.

Etiquetar no es lo mismo que detectar

La distinción parece pequeña, pero cambia por completo lo que puede esperarse de una herramienta. Etiquetar consiste en añadir una marca o información de origen cuando se genera el contenido. Detectar, en cambio, significa examinar una pieza después de su creación y averiguar si fue producida o manipulada con inteligencia artificial, incluso cuando no queda una etiqueta visible. La prueba de NewsGuard se centró en este segundo problema: qué pueden deducir los chatbots cuando reciben el clip sin esa señal.

Una etiqueta funciona mejor si acompaña al vídeo a lo largo de las publicaciones, las copias y las conversiones entre formatos. Un detector posterior tiene una tarea más incierta, porque debe reconocer patrones visuales o técnicos que pueden cambiar con cada herramienta y cada proceso de edición. No existe una característica única que todos los vídeos sintéticos compartan de forma permanente. Por eso, un resultado automático no debería confundirse con una inspección infalible, aunque se exprese como una puntuación o un veredicto sencillo.

Las herramientas especializadas pueden analizar fotogramas, patrones temporales, compresión o señales de manipulación, y algunas ofrecen informes sobre zonas sospechosas. Eso puede aportar indicios que un chatbot generalista no busca de la misma manera. Pero su resultado depende del tipo de vídeo, la calidad del archivo y la clase de modificación; además, un porcentaje de probabilidad no equivale por sí solo a una certeza. La automatización puede ayudar a orientar el análisis, no reemplazar la procedencia ni el contexto.

SynthID ofrece una pista limitada al ecosistema de Google

Google ha desarrollado SynthID, una marca de agua imperceptible que puede incorporarse a contenidos creados con determinados sistemas de la compañía. En diciembre de 2025, Google anunció una función en la aplicación Gemini para comprobar si un vídeo había sido creado o editado con herramientas de Google. El análisis puede buscar la señal tanto en la imagen como en el audio y señalar los segmentos donde aparece, en lugar de reducir todo el clip a una respuesta binaria.

Ese enfoque puede resultar útil cuando el contenido incluye partes de distinto origen o solo algunos fragmentos han sido modificados. Un vídeo puede combinar imágenes grabadas con elementos generados, o conservar el vídeo original mientras cambia el audio. Mostrar en qué tramos se localiza una marca ofrece más contexto que afirmar simplemente que una pieza entera es real o artificial. La procedencia puede ser parcial, igual que la propia edición.

El límite es igual de importante: SynthID permite buscar señales asociadas a tecnologías de Google, no identificar de forma universal cualquier vídeo creado con inteligencia artificial. Un clip de Sora no tiene por qué llevar esa marca; tampoco la ausencia de SynthID demuestra que el vídeo sea auténtico. Se trata de una herramienta de procedencia dentro de un ecosistema concreto, no de un árbitro independiente de todo el contenido audiovisual que circula por internet.

El coste de confundir plausibilidad con prueba

El vídeo tiene una fuerza particular porque suele percibirse como evidencia directa. Una imagen en movimiento parece mostrar el acontecimiento mientras sucede, aunque pueda haber sido generada, editada o separada de su contexto original. Si una persona consulta un clip viral a un chatbot y recibe una respuesta que lo presenta como documentado, la herramienta puede reforzar la impresión de autenticidad sin haber comprobado quién lo publicó primero ni de dónde salió.

El riesgo no se reduce a que una falsedad se comparta más rápido. También se deteriora la capacidad de distinguir entre un archivo verificable y uno cuyo origen se desconoce. Cuando el chatbot completa huecos con detalles plausibles, las personas pueden repetir esos detalles como si fueran parte del material original. La confianza en el tono de la respuesta puede acabar sustituyendo a la evidencia que falta.

La prueba de NewsGuard no demuestra que todos los chatbots vayan a fallar siempre ni que cualquier vídeo generado engañe a una audiencia. Sí muestra que, en esas condiciones, los tres sistemas tuvieron dificultades considerables para reconocer clips de Sora cuando no llevaban una marca visible. La conclusión más sólida no es que la inteligencia artificial sea incapaz de analizar vídeo, sino que su capacidad para describir una escena no basta para autenticarla.

La historia del archivo importa tanto como lo que muestra

Un vídeo que llega sin una fuente clara, sin metadatos verificables y sin una cadena de publicación conserva su apariencia, pero puede haber perdido buena parte de su historia. Las marcas visibles ayudan cuando permanecen; los estándares de procedencia y las huellas imperceptibles pueden aportar señales adicionales cuando se conservan y son compatibles con el sistema que las analiza. Ninguna de estas soluciones, por separado, resuelve todos los casos.

La respuesta más honesta ante un clip aislado puede ser reconocer que no hay información suficiente para confirmar su origen. Esa cautela no equivale a declarar falso el vídeo: significa distinguir entre lo que las imágenes parecen mostrar y lo que está demostrado sobre ellas. En un entorno donde una escena puede fabricarse con apariencia convincente, la procedencia deja de ser un dato secundario y pasa a formar parte de la noticia.

La paradoja, entonces, no es que una inteligencia artificial no reconozca mágicamente a otra. Es que se le atribuye una capacidad de verificación que no se desprende de su habilidad para interpretar imágenes. Mientras la identificación dependa de marcas que pueden desaparecer o de señales propias de cada fabricante, un clip sin contexto seguirá siendo una pieza incompleta: visible, convincente quizá, pero no necesariamente comprobada.