¿Puede esta IA pillar a la IA? Detectores contra fotos falsas

Una foto de un paquete roto, un coche abollado o un supuesto suceso puede parecer una prueba suficiente para reclamar dinero o difundir una noticia. Ya no siempre lo es: la inteligencia artificial permite crear escenas verosímiles y alterar detalles de imágenes reales sin que el cambio salte a la vista. Frente a ella han aparecido sistemas capaces de analizar archivos y señalar indicios de manipulación. Pueden detectar algunas falsificaciones en segundos, pero su resultado no equivale a demostrar que una imagen es auténtica o falsa. Esa diferencia importa especialmente cuando una fotografía desencadena un pago, afecta a una reputación o entra en una investigación.

La carrera no enfrenta solo a dos tecnologías. También enfrenta la velocidad con la que circulan las imágenes con el tiempo necesario para comprobarlas. Una fotografía llega al móvil junto a un mensaje que le da contexto, a veces verdadero y otras inventado; después se comprime, se recorta y se reenvía. Cuanto más lejos viaja del archivo original, más difícil puede resultar reconstruir su procedencia. Los detectores ofrecen una barrera útil, sobre todo si se integran en procesos profesionales, aunque siguen necesitando otras comprobaciones y criterio humano.

El valor de una imagen cambia cuando cualquiera puede fabricarla

La fotografía conserva una fuerza persuasiva singular: presenta una escena de forma inmediata, sin exigir al espectador que lea una explicación larga. Esa ventaja se convierte en vulnerabilidad cuando la misma imagen sirve para justificar un reembolso, demostrar un daño o señalar a una persona. Georgina Viaplana, cofundadora y directora de Vericta, sitúa ahí el cambio de fondo: la imagen no ha perdido influencia; lo que se ha debilitado es la seguridad de que represente lo ocurrido. La posibilidad de producir contenidos sintéticos amplía un problema que antes dependía más del tiempo y la destreza de quien preparaba el montaje.

La credibilidad tampoco está solo dentro de los píxeles. Un archivo recibido con una explicación convincente puede parecer más fiable que ese mismo archivo aislado. Si el mensaje coincide con una sospecha previa, la escena encuentra un camino fácil hacia la memoria: se recuerda como un hecho antes de que nadie haya comprobado dónde se tomó o quién la publicó primero. Una imagen falsa no necesita ser perfecta para funcionar; basta con que resulte plausible durante los segundos que alguien dedica a mirarla en una pantalla pequeña.

La circulación digital añade otro obstáculo. Las plataformas ajustan formatos y tamaños, y las aplicaciones de mensajería pueden recomprimir el archivo. Un detalle que habría despertado dudas en el original desaparece tras varios reenvíos, mientras una imagen legítima puede acabar mostrando rarezas que nunca estuvieron en la escena fotografiada. La apariencia visual y la historia del archivo son cuestiones distintas. Una fotografía nítida puede haber sido generada; otra de mala calidad puede documentar un hecho real. Ni la nitidez acredita autenticidad ni el deterioro demuestra fraude.

Por eso, en ciertos sectores, una foto empieza a tratarse menos como una ilustración y más como un documento. Cuando sirve para cerrar una reclamación o autorizar un gasto, lo que se discute no es una cuestión estética: es la fiabilidad de una decisión. La verificación adquiere valor cuando la imagen tiene consecuencias, aunque comprobarla tampoco debería traducirse en sospechar automáticamente de quien la envía. El reto consiste en preservar la rapidez que ofrecen los trámites digitales sin aceptar cualquier archivo como prueba suficiente.

Vericta y el nuevo mercado de la autenticidad

Entre las empresas que trabajan en detección figura la española Vericta, cuya tecnología analiza imágenes y vídeos para identificar señales de generación o manipulación mediante inteligencia artificial. La compañía surgió del ámbito de la automatización del cumplimiento de normativas digitales y ha contado con apoyo de entidades públicas como el Centro para el Desarrollo Tecnológico y la Innovación, CDTI, y el Ayuntamiento de Barcelona. Su caso ilustra una tendencia más amplia: la autenticidad digital se está convirtiendo en un problema operativo para organizaciones que reciben material visual de forma continua.

Viaplana sostiene que la verificación gana sentido allí donde una imagen puede traducirse en un coste directo. No plantea que cada archivo deba someterse al mismo examen, sino que los procesos sensibles necesitan filtros acordes con el riesgo. En un sistema que gestiona reclamaciones a gran escala, una comprobación incorporada al propio trámite puede resultar más útil que pedir a cada empleado que distinga por intuición una foto genuina de otra fabricada. La herramienta no sustituye la revisión: ayuda a decidir qué casos requieren mirarse con más atención.

Ese planteamiento también revela una diferencia entre el uso empresarial y el doméstico. Una organización puede fijar criterios, conservar registros y conectar el análisis con otros datos de una operación; una persona que recibe una imagen por mensajería suele disponer solo de la imagen y de la explicación que la acompaña. El detector es más valioso cuando forma parte de un proceso de comprobación, no cuando su resultado aparece aislado, sin contexto ni posibilidad de contrastarlo. La misma puntuación puede tener implicaciones muy distintas según lo que se esté decidiendo.

La expansión de este mercado no demuestra, por sí sola, que las soluciones disponibles funcionen igual de bien en todas las circunstancias. Algunas se dirigen a comprobar archivos concretos; otras buscan integrarse en sistemas que manejan volúmenes elevados. También difieren los materiales que examinan y la información que devuelven. La pregunta decisiva no es solo si una herramienta detecta IA, sino qué tipo de manipulación reconoce, con qué archivo trabaja y qué margen de error tiene en el contexto donde se usa.

Seguros y devoluciones: cuando una foto mueve dinero

Los seguros muestran con claridad por qué importa esta distinción. La tramitación a distancia permite resolver incidencias a partir de imágenes enviadas desde un móvil, sin convertir cada caso en una visita presencial. Es una mejora evidente para situaciones sencillas, pero abre una puerta si la fotografía se acepta como prueba única. Un daño puede exagerarse, añadirse digitalmente o presentarse fuera de contexto. La escena visible en la pantalla no cuenta necesariamente cómo apareció ese desperfecto ni si corresponde al objeto incluido en la reclamación.

El riesgo no se limita a siniestros de gran cuantía. Un pequeño golpe inventado en un electrodoméstico o una grieta añadida a una pantalla podrían aprovechar procedimientos pensados para resolver incidencias rutinarias con rapidez. A menudo, el fraude no necesita engañar a un perito durante una inspección exhaustiva: le basta con superar un primer filtro y encajar en un expediente aparentemente corriente. La eficiencia de un sistema puede convertirse en su punto débil si una decisión económica depende demasiado de una sola imagen.

En comercio electrónico y reparto a domicilio ocurre algo parecido. Una fotografía de una caja abollada, una prenda supuestamente defectuosa o un producto dañado sirve para pedir una devolución o un reembolso. La IA puede fabricar toda la escena, pero también intervenir de forma más discreta: cambiar una zona de la foto real, añadir una rotura o alterar un detalle de la etiqueta. Las manipulaciones parciales son especialmente delicadas porque el resto del archivo conserva rasgos genuinos que pueden dar credibilidad al conjunto.

El coste del engaño no termina en el importe de una reclamación falsa. Si una empresa responde endureciendo todos sus controles, también los clientes legítimos pueden encontrarse con trámites más lentos y peticiones adicionales. Esa fricción tiene un origen comprensible, pero afecta a la experiencia de quienes no han hecho nada indebido. Verificar mejor no debería significar desconfiar peor: la finalidad de los filtros es distinguir los casos que justifican una revisión más profunda, no tratar cada incidencia ordinaria como una falsificación.

La frontera entre una imagen inmobiliaria y una promesa

En el mercado de la vivienda, la cuestión se desplaza del fraude en una reclamación a las expectativas de quien contempla un inmueble. Las recreaciones digitales pueden mostrar cómo quedaría una habitación amueblada o una reforma aún sin ejecutar. Ese uso tiene sentido si su naturaleza está clara. El problema aparece cuando una imagen sintética se presenta como una fotografía del estado real o cuando las mejoras son tan intensas que borran rasgos decisivos del espacio.

La luz es un buen ejemplo. Un piso oscuro puede parecer bañado por el sol en una imagen retocada; un salón pequeño puede adquirir una amplitud que no tiene; una vista corriente puede transformarse en el principal atractivo de un anuncio. No hace falta inventar una vivienda entera para alterar la impresión de quien la observa. Una modificación aparentemente estética puede cambiar expectativas económicas, porque el tamaño, la luminosidad y el entorno pesan en la decisión de visitar, alquilar o comprar.

De ahí que la detección no deba confundirse con una prohibición de crear imágenes. Un render identificado como tal cumple una función distinta de una fotografía documental, y ambos pueden convivir en la información sobre un inmueble. Lo esencial es no borrar la separación entre lo existente y lo imaginado. La transparencia sobre el origen de cada imagen protege su utilidad. Cuando esa frontera desaparece, el archivo deja de orientar al espectador y empieza a prometer una experiencia que quizá no encontrará al abrir la puerta.

Qué examinan los detectores y qué no pueden demostrar

Las herramientas de detección buscan rastros que un observador puede pasar por alto. Entre los productos disponibles se encuentran IMGDetector.ai, RealReveal, Tenorshare Deepfake Detection, AI or Not y Vericta. No todos funcionan de la misma manera ni ofrecen idénticas prestaciones, pero comparten una idea general: analizar la imagen y el archivo en busca de patrones asociados a la generación o la manipulación. El resultado pretende orientar una comprobación, no reconstruir por completo lo que sucedió delante de una cámara.

Una parte del análisis se concentra en la propia escena. Sombras incoherentes, reflejos extraños, bordes poco naturales o texturas que cambian sin una razón visible pueden despertar sospechas. Otra parte estudia aspectos menos evidentes: patrones de píxeles, compresión y señales estadísticas que ciertos procesos de generación o edición pueden dejar tras de sí. Un detalle visual aislado rara vez basta para emitir un juicio fiable. Una iluminación compleja puede parecer imposible sin serlo, y una falsificación cuidada puede respetar perfectamente lo que el ojo espera.

Durante un tiempo, las imágenes generadas delataban con frecuencia fallos llamativos, como manos deformes o textos ilegibles. La mejora de los modelos ha restado utilidad a esas pistas fáciles. A la vez, quien quiera ocultar el origen de un archivo puede añadir ruido, desenfoque o compresión para disimular algunas señales. Los generadores aprenden a producir imperfecciones convincentes, no solo superficies limpias y rostros impecables. La foto artificial puede parecer una toma casual precisamente porque reproduce defectos habituales de una cámara o de un envío por móvil.

El detector tampoco observa necesariamente el material en las mismas condiciones en que se creó. Puede recibir una captura de pantalla, un recorte o una versión reducida por varias plataformas. Esas transformaciones afectan a las pistas técnicas y dificultan atribuir una señal a la generación original, a una edición posterior o al simple recorrido del archivo por internet. La detección consiste en estimar, no en conocer directamente el origen. Por eso, presentar un resultado como prueba definitiva sería darle más alcance del que el propio análisis permite.

El archivo original, las marcas y la cadena de custodia

Una vía complementaria a la búsqueda de anomalías consiste en identificar la procedencia. Los metadatos de un archivo pueden aportar información sobre su creación o edición; determinadas marcas o señales de autenticidad buscan indicar cómo se produjo el contenido. En teoría, esa información permite distinguir una imagen tomada con una cámara de otra creada digitalmente. En la práctica, la ausencia de una marca no demuestra que la foto sea real, del mismo modo que un dato incrustado en el archivo no debería aceptarse sin examinar su fiabilidad.

Viaplana advierte de que las marcas de agua pueden alterarse y los metadatos, modificarse o desaparecer. Además, no todos los sistemas generativos siguen las mismas reglas de identificación. Una foto enviada por mensajería puede perder información del archivo original, y una plataforma puede cambiar su tamaño o formato antes de mostrarla. La señal de procedencia tiene valor si sobrevive al trayecto y si existen motivos para confiar en quien la incorporó. De otro modo, la etiqueta puede servir de pista, pero no de certificado universal.

Ahí adquiere importancia la cadena de custodia: saber de dónde salió la imagen, qué versiones existen y qué le ha ocurrido entre su creación y el momento de examinarla. En un expediente profesional, conservar el archivo original y registrar su recorrido puede aportar más que estudiar una captura reenviada numerosas veces. En una conversación informal, esos datos casi nunca están disponibles. Cuanto mejor documentada está la trayectoria del archivo, más sólido puede ser el análisis; cuando esa trayectoria se rompe, aumenta el peso de otras comprobaciones externas.

La fotografía completamente sintética y la fotografía auténtica con un detalle añadido plantean problemas distintos. En la segunda, los metadatos pueden reflejar una toma real aunque una zona relevante haya sido modificada después. Una fecha cambiada en un documento fotografiado o un desperfecto insertado en un objeto bastan para alterar el sentido de la imagen sin convertirla entera en una escena inventada. La autenticidad del archivo de partida no garantiza la autenticidad de cada detalle visible. Esta es una de las razones por las que ninguna señal técnica aislada resuelve todos los casos.

Noticias falsas, reputaciones dañadas y pruebas bajo examen

Las consecuencias van mucho más allá de las reclamaciones económicas. Una imagen de un supuesto accidente, un episodio de violencia o un documento oficial puede circular como testimonio antes de que alguien establezca su origen. La escena ofrece una apariencia de inmediatez: parece que una persona estuvo allí y apuntó con su cámara. Una imagen fabricada puede convertir un hecho inexistente en tema de conversación pública, obligar a desmentidos y dejar una impresión persistente incluso después de que se conozca la manipulación.

Los medios afrontan una tensión particular. Publicar con rapidez una imagen impactante puede parecer necesario cuando ya se está difundiendo por redes; hacerlo sin verificarla puede dar credibilidad a un montaje. Un detector sirve como primer filtro, pero no sustituye preguntas básicas sobre procedencia, fecha, lugar y contexto. Verificar una fotografía periodística exige comprobar también la historia que cuenta. Una imagen auténtica tomada en otro momento o presentada como si mostrara otro lugar puede desinformar sin necesidad de haber sido generada por IA.

En investigaciones y procedimientos judiciales, el margen para equivocarse es aún más delicado. Una fotografía falsa puede introducir una pista inexistente o hacer perder tiempo a quienes examinan un caso; una fotografía real descartada erróneamente también puede causar daño. Por eso, los análisis automáticos deben interpretarse dentro de un examen más amplio, atento al archivo original y a su recorrido. Una probabilidad emitida por un sistema no equivale a una conclusión pericial. La decisión sobre el valor de una imagen depende de más elementos que la clasificación de un programa.

El entorno corporativo añade combinaciones que un detector de fotos, por sí solo, no cubre. Una factura visualmente alterada puede respaldar un gasto inexistente; una imagen utilizada como prueba puede acompañarse de un mensaje apremiante o de una voz clonada que aparenta dar instrucciones. Cada pieza refuerza a las demás: el audio crea familiaridad, la fotografía aporta una supuesta evidencia y el texto empuja a decidir deprisa. La manipulación funciona mejor cuando no depende de un único soporte. Examinar la imagen ayuda, pero no resuelve un engaño construido también con identidad suplantada y presión para actuar.

Una carrera técnica condicionada por hábitos humanos

Hervé Lambert, responsable de Operaciones Globales de Consumo de Panda Security, describe la evolución de generadores y detectores como una carrera armamentística digital. La expresión apunta a una dinámica concreta: cuando se reconocen ciertas huellas de una falsificación, los modelos de generación pueden mejorar o buscar formas de ocultarlas; cuando las imágenes artificiales se vuelven más convincentes, los sistemas de análisis necesitan adaptarse. No hay una victoria técnica definitiva si las herramientas de ambos lados evolucionan y los archivos siguen cambiando durante su circulación.

Lambert considera especialmente valiosa la detección en entornos profesionales, donde es posible incorporarla a rutinas de trabajo. Ve más difícil que una herramienta independiente transforme, por sí sola, lo que ocurre en los chats o las redes sociales. Su reserva no se refiere únicamente a la precisión del software. Un detector disponible no sirve de mucho si nadie lo utiliza, o si su resultado se consulta solo después de haber compartido una imagen que encaja con una creencia previa.

La reacción humana ante una fotografía tampoco es simétrica. Una imagen sorprendente puede suscitar dudas si contradice lo que se cree; si confirma una sospecha, suele encontrar menos resistencia. El archivo además llega envuelto en señales sociales: lo envía un conocido, aparece en un grupo de confianza o acumula comentarios que dan por cierto su contenido. La credibilidad prestada por el entorno puede imponerse a las pistas visuales. Esa capa de contexto explica por qué una falsificación técnicamente imperfecta llega a difundirse con fuerza.

Existe también el riesgo inverso: que la facilidad para fabricar imágenes sirva de excusa para negar cualquier fotografía incómoda. Si todo puede ser falso, la duda deja de ser una herramienta de comprobación y se convierte en una forma de descartar pruebas sin examinarlas. La cautela debe aplicarse tanto al aceptar como al rechazar una imagen. Los detectores resultan útiles cuando ayudan a formular mejores preguntas; pierden valor cuando se usan para confirmar de antemano lo que alguien quería creer.

Etiquetado, plataformas y controles que se integran en el proceso

La respuesta al problema no depende de una sola herramienta. Lambert apunta a tres frentes que necesitan avanzar: reglas para identificar determinados contenidos, responsabilidad de las plataformas por donde circulan y una mejor comprensión pública de cómo se producen las falsificaciones. Cada frente tiene limitaciones distintas. El etiquetado puede facilitar la identificación de imágenes generadas, pero su utilidad disminuye si la señal se elimina, si no todos los creadores la aplican o si el archivo pasa por servicios que no la conservan.

Las plataformas ocupan una posición particular porque intervienen en el recorrido de millones de archivos y deciden cómo se presentan ante los usuarios. Pueden mostrar información de procedencia cuando existe o introducir señales que ayuden a interpretar un contenido. Sin embargo, una advertencia demasiado confusa puede pasar desapercibida, y una clasificación errónea puede sembrar dudas sobre imágenes auténticas. Informar sobre la incertidumbre es tan importante como señalar la sospecha. La ausencia de etiqueta tampoco debería leerse automáticamente como garantía de realidad.

En las empresas, la discusión se vuelve más concreta. Una imagen que activa un pago, una devolución o una comunicación externa puede pasar por controles diferentes de los aplicados a una foto meramente ilustrativa. El análisis automático encaja mejor en esos puntos de decisión, junto a la comprobación de datos del expediente y la conservación del archivo original cuando sea posible. Integrar la verificación en un flujo evita depender de la memoria o la intuición de quien recibe el material, sin convertir cada fotografía en una investigación extensa.

Esto no elimina la necesidad de criterio profesional. Un sistema puede marcar una imagen como sospechosa porque ha sido editada para mejorar la iluminación sin alterar el hecho que documenta; también puede no detectar un cambio pequeño pero decisivo. Antes de sacar consecuencias, importa entender qué parte de la imagen se cuestiona y para qué se utiliza. El mismo retoque puede ser irrelevante en una ilustración y crucial en una prueba de daños. El contexto define el riesgo mucho mejor que una etiqueta binaria.

La confianza no cabe en una puntuación automática

El avance de la IA generativa hará más frecuente encontrarse con imágenes sintéticas en ámbitos donde su uso es legítimo, desde una recreación inmobiliaria identificada hasta una ilustración. La dificultad no reside en que toda imagen artificial sea dañina, sino en distinguir su función y su origen cuando alguien pretende presentarla como testimonio de un hecho. Lo que está en juego es el vínculo entre ver una escena y poder afirmar que ocurrió. Ese vínculo nunca fue perfecto, pero la facilidad de fabricar escenas obliga a tratarlo con más cuidado.

Los detectores ayudan a sostener esa distinción: encuentran indicios, ordenan revisiones y pueden reducir el margen de fraude donde las imágenes desencadenan decisiones. Al mismo tiempo, heredan los límites de los archivos que examinan y compiten con técnicas que cambian. Ni un resultado favorable certifica toda una historia ni uno desfavorable demuestra por sí solo un engaño. La procedencia, el contexto y las consecuencias de equivocarse siguen siendo piezas indispensables de la comprobación.

La fotografía mantiene su poder porque permite entender algo de un vistazo. Precisamente por eso resulta tan tentador falsificarla y tan costoso renunciar a ella como fuente de información. Entre creerlo todo y no creer nada hay un trabajo menos vistoso: conservar originales, contrastar contextos y utilizar los análisis automáticos por lo que son. La IA puede ayudar a detectar a otra IA; recuperar la confianza exige saber qué demuestra realmente cada imagen.