Vídeos falsos generados por IA complican investigación de tiroteos de ICE en EE.UU.

La difusión masiva de vídeos manipulados o completamente fabricados mediante inteligencia artificial está complicando los esfuerzos para esclarecer lo ocurrido en dos recientes incidentes letales protagonizados por agentes de ICE en Estados Unidos.

Según verificó DW Fact Check, las redes sociales se han inundado con una mezcla de vídeos auténticos de testigos presenciales y falsificaciones generadas por IA tras los tiroteos que acabaron con las vidas de Alex Pretti, un enfermero de 37 años, en Minneapolis, y Renee Good, también de 37 años, en un incidente separado.

En el caso de Pretti, grabaciones de teléfonos móviles muestran cómo varios agentes de ICE lo reducen en el suelo y luego le disparan. Estas imágenes contradicen la versión inicial del Departamento de Seguridad Nacional, que afirmó que Pretti había desenfundado su arma. Los vídeos verificados muestran que su pistola permanecía en el cinturón, de donde un agente la retira antes de que Pretti fuera abatido, según DW.

De manera similar, en el caso de Good, vídeos tomados desde múltiples ángulos desmienten la declaración oficial de que intentaba atropellar a un agente cuando le dispararon a quemarropa a través de la ventanilla de su vehículo mientras se alejaba conduciendo.

La organización Full Fact ha identificado que una imagen ampliamente compartida del tiroteo de Pretti ha sido mejorada artificialmente con IA. Aunque se asemeja a un fotograma del vídeo genuino del incidente, la versión manipulada presenta anomalías como un agente de ICE sin cabeza ni manos y una pierna fusionada con un arma en el suelo.

"Uno de los problemas con todo el contenido generado por IA y los vídeos falsos que circulan entre los vídeos reales es que se vuelve muy difícil distinguir qué es real", explicó Courtney Radsch, directora del Centro para el Periodismo y la Libertad del Open Markets Institute, según cita DW.

Los expertos advierten que estas campañas de desinformación podrían estar diseñadas intencionadamente para ahogar la documentación precisa de los encuentros mortales con ICE. Brittani Kollar, subdirectora de MediaWise, un proyecto de alfabetización mediática digital de Poynter, señaló a DW que "los deepfakes virales pueden, de hecho, ahogar los vídeos reales cuando se trata de algoritmos porque más personas están viendo los deepfakes".

La situación está generando una creciente dificultad para descifrar qué ocurrió realmente, lo que "podría socavar los procesos legales, la confianza en las pruebas de vídeo y la confianza en los testimonios de testigos presenciales", advirtió Radsch.

Los motivos detrás de la creación de estos vídeos falsos son diversos. Según los expertos consultados por DW, incluyen desde actores malintencionados que buscan interrumpir el discurso público y trolls que persiguen el caos, hasta intereses económicos, ya que los temas relacionados con redadas de ICE pueden generar seguidores o aumentar los ingresos por publicidad digital.

A pesar de que aún es posible detectar contenido generado por IA, esta tarea se vuelve cada vez más desafiante a medida que avanzan las herramientas generativas. Kollar recomienda buscar pistas en los vídeos como marcas de agua o identificadores de herramientas de IA, frases extrañas, texto distorsionado, iluminación inconsistente, subtítulos sensacionalistas o que carecen de contexto, y verificar si existen informes de medios de comunicación acreditados sobre el incidente.

Radsch añade que "es prácticamente imposible distinguir lo real de lo falso en muchos casos si el intento es hacer un deepfake. Incluso los expertos sofisticados no pueden necesariamente hacerlo". La experta aboga por protocolos técnicos más sólidos para autenticar imágenes reales.

La consecuencia más alarmante de esta situación, según Radsch, es que "las personas están perdiendo la fe en que se puedan establecer hechos". Con prácticamente ninguna barrera sobre cómo se pueden monetizar los vídeos generados por IA, el ecosistema de las redes sociales incentiva la desinformación con fines lucrativos, lo que lleva a muchas personas a evitar por completo las noticias cuando no pueden discernir entre vídeos falsamente creados y auténticos.

Las autoridades federales y estatales de EE.UU. han ofrecido versiones contradictorias sobre lo ocurrido en los momentos previos al tiroteo de Pretti. La Secretaria de Seguridad Nacional, Kristi Noem, afirmó que Pretti fue abatido porque estaba "blandiendo" un arma, pero las autoridades locales han negado esto, asegurando que le dispararon después de que le quitaran su arma de fuego legalmente registrada, según informa Full Fact.

El Departamento de Policía Metropolitana de Las Vegas ha advertido que ha observado un aumento de imágenes y vídeos generados por IA en relación con sus fuerzas, aclarando que "no participa en actividades proactivas de control migratorio", según recoge DW.