Cuentas falsas con inteligencia artificial difunden contenido antiinmigrante en Reino Unido desde Sri Lanka, Estados Unidos e Irán

La investigación identificó decenas de cuentas que utilizan inteligencia artificial para crear videos falsos que muestran escenas inexistentes, como la Cámara de los Comunes de Reino Unido llena de hombres con vestimenta árabe tradicional imponiendo la ley sharia, o entrevistas falsas con mujeres con hiyab discutiendo cómo el Reino Unido necesita ser más islámico, según la BBC.

Las cuentas han acumulado cientos de miles de visualizaciones con contenido que presenta una imagen contradictoria del Reino Unido. Algunos videos ampliamente compartidos asocian el declive del país con la inmigración musulmana, mientras que otros del mismo creador presentan países islámicos como idílicos en comparación, según el reporte.

Una cuenta con más de 20 millones de visualizaciones muestra videos generados con inteligencia artificial desde el punto de vista de personas caminando por ciudades británicas en 2050. Liverpool, Londres, Birmingham y lugares no identificados de Inglaterra aparecen sucios, llenos de basura, con personas vestidas con ropa islámica tradicional e hiyabs en las calles. Los puestos tienen escrito "Halal" y hay banderines con lo que parece escritura árabe. También se muestran incendios y caos, según la BBC.

Ciudades extranjeras como Nueva York, Washington DC y algunas capitales europeas son retratadas de manera similar. Los creadores de esta cuenta, contactados por la BBC, dijeron: "Nuestro contenido tiene un propósito claro: pretendemos informar a la gente y a los votantes sobre lo que creemos que podría suceder en las próximas décadas si continúan las tendencias sociales y culturales actuales".

Los responsables afirmaron estar ubicados a kilómetros de distancia de las ciudades que retratan en sus videos y se describieron como operando desde un país europeo donde "una sensación de inseguridad se ha vuelto más notoria". Dijeron que muestran países como Irán de manera idealizada para "provocar pensamiento y discusión sobre la evolución política y cultural", según la BBC.

La pareja negó estar motivada por el dinero de la participación en redes sociales y dijo que no monetizan su cuenta. Afirmaron estar en contacto con "varios políticos" que apoyan su contenido, pero se negaron a revelar los nombres de estas figuras, según el reporte.

Varias cuentas han reutilizado sus páginas, aparentemente para aumentar la participación, cambiando de temas como "Make America Great Again" y "Life in the USA" a usar inteligencia artificial para impulsar narrativas antiinmigrantes. Algunas también han experimentado ocasionalmente con contenido más comprensivo hacia los migrantes, según la BBC.

Una investigación del Ayuntamiento de Londres encontró un aumento pronunciado en publicaciones de redes sociales como estas durante los últimos dos años e identificó dos motivos principales. "Tienes actores estatales", dijo el alcalde de Londres, Sadiq Khan, a la BBC. Indicó que han visto evidencia de actividad rusa y china, así como de partidarios de "extrema derecha" del movimiento Make America Great Again en Estados Unidos.

"En segundo lugar, hemos visto individuos y empresas tratando de monetizar y obtener ganancias de la división", añadió Khan. Reconoció que la ciudad enfrenta "desafíos", pero dijo que estas "mentiras generadas por inteligencia artificial" tienen un efecto real, disuadiendo a algunos visitantes, estudiantes extranjeros o inversores.

"Mi ansiedad es que la gente decente empiece a creer estas mentiras, esta imagen distópica de Londres en declive, que somos una ciudad peligrosa, que no hay ley y orden", dijo Khan, quien ha encargado investigaciones sobre imágenes generadas con inteligencia artificial que muestran la capital en declive, lo que según él daña la reputación de la ciudad en el extranjero.

El profesor Sander van der Linden, psicólogo social de la Universidad de Cambridge, describió estas cuentas falsas de inteligencia artificial como "nueva evolución de operaciones de influencia". Estados y otros grupos están intentando manipular la opinión pública con cuentas falsas de inteligencia artificial como estas, según van der Linden.

Es fácil para los falsificadores de inteligencia artificial que viven en el extranjero hacerse pasar por ciudadanos británicos en línea, dijo, porque es relativamente barato comprar cuentas de redes sociales originalmente creadas en el Reino Unido.

Es difícil verificar las afirmaciones de participación estatal directa, pero un puñado de las cuentas comparten publicaciones comprensivas hacia los gobiernos ruso e iraní. Los propietarios de las cuentas no respondieron a los intentos de la BBC de contactarlos, según el reporte.

La BBC también habló con personas detrás de varias cuentas que promocionan o interactúan con los videos del punto de vista de 2050, lo que confirmó la conclusión del Ayuntamiento que algunos están motivados por clics y ganancias.

"Publico principalmente para obtener una reacción por el bien de la participación, lo que aumenta mis seguidores y dinero", dijo uno, quien recibe pagos a través del esquema de monetización de Instagram basado en los anuncios mostrados a los espectadores de sus videos.

Otro dijo que coordinan con cuentas "que alzan la voz contra problemas similares" pero que su actividad en línea "no está motivada políticamente de ninguna manera". En cambio, el objetivo es que otras cuentas promuevan su contenido "para obtener la mayor atención posible", según la BBC.

Algunas de las personas que administran cuentas con contenido similar, así como que interactúan con los "patriotas" británicos falsos, están basadas en el Reino Unido. Una persona que administra un perfil desde West Midlands que publica sobre "la restauración de la antigua grandeza de Gran Bretaña", dijo a la BBC que coordina con otras cuentas para impulsar el mismo objetivo político. Dijo que tienen un chat grupal en Instagram donde pueden decidir qué publicar y cuándo.

Las cuentas con las que trabajan están basadas en India, Pakistán y Singapur, así como Australia y Nueva Zelanda, dijo.

Van der Linden dijo que la "industria de desinformación por contrato" está creciendo con "actores pagados e influencers fingiendo ser ciudadanos ordinarios para fabricar apoyo a una agenda", usualmente con contenido de inteligencia artificial y bots que intentan generar tráfico.

La investigación sugiere que el público no es muy bueno detectando falsificaciones, con un nivel de precisión de aproximadamente 55%, dijo la profesora Yvonne McDermott Rees, profesora de derecho en la Universidad Queen's de Belfast que ha estudiado el impacto de los deepfakes en la confianza.

También sugiere que las personas usualmente piensan que son mucho mejores detectando falsificaciones de lo que realmente son, dijo.

Los comentarios en los videos generados con inteligencia artificial sugieren que algunas personas reales están siendo engañadas. Una mujer dijo "sigue adelante" y otra dijo "Nunca retrocedas. Levántate y haz lo que tengas que hacer", en respuesta a un video generado con inteligencia artificial que muestra a un hombre en una protesta para "Detener los botes" que traen migrantes, según la BBC.

El video está publicado en la página de Facebook "Britain Today", que está basada en Sri Lanka según las herramientas de transparencia de Meta.

"Cuanto más la gente vea contenido de inteligencia artificial, menos capaces serán de discernir el hecho de la ficción, entonces más probable será que desconfíen del contenido real", dijo McDermott Rees. "No debería recaer solo en la persona ordinaria tener que tratar de averiguar qué es real y qué no".

Pero van der Linden advirtió que la investigación también sugiere que a muchas personas no parece importarles si el contenido es generado por inteligencia artificial o no. "Mientras resuene con su identidad y visión del mundo, a menudo todavía respaldarán el contenido y lo compartirán con otros porque señala acuerdo con una agenda más amplia", dijo.

Como un comentarista en la página de Facebook "Great British People" lo expresó: "Probablemente es inteligencia artificial pero el hecho es que tiene razón sobre todo".

Khan dijo que las empresas de redes sociales deberían hacer más para combatir este tipo de desinformación, incluyendo "modificar sus algoritmos para asegurarse de que no están recompensando el veneno y la división" y etiquetar claramente el contenido de inteligencia artificial.

Meta, que posee Facebook e Instagram, dijo que toma "el comportamiento no auténtico coordinado en serio" y tiene "equipos globales especializados trabajando constantemente para identificar y interrumpir este tipo de actividad".

"Tomaremos medidas sobre cualquier contenido o cuentas que violen nuestros Estándares de la Comunidad, que se aplican a todo el contenido, independientemente de si es creado por inteligencia artificial o por una persona", dijo un portavoz.