Facebook eliminó más de 600 cuentas vinculadas al sitio web de conspiración pro-Trump The Epoch Times por usar identidades creadas por inteligencia artificial para impulsar historias sobre una variedad de temas, incluidos el juicio político y las elecciones.

La red se llamaba «The BL» y estaba dirigida por usuarios vietnamitas que se hacían pasar por estadounidenses, utilizando fotos falsas generadas por algoritmos para simular identidades reales. El grupo Epoch Media, que impulsa una variedad de teorías de conspiración pro-Trump, gastó $ 9.5 millones en anuncios para difundir contenido a través de las páginas y grupos ahora suspendidos.

“Lo nuevo aquí es que se trata de una supuesta compañía de medios con sede en los Estados Unidos que aprovecha a actores extranjeros que se hacen pasar por estadounidenses para impulsar el contenido político. Lo hemos visto mucho con actores estatales en el pasado «, dijo en una entrevista el jefe de política de seguridad de Facebook, Nathaniel Gleiche.

La red tenía más de 55 millones de seguidores en Facebook, casi el doble que Kim Kardashian West.

Las cuentas empujaron mensajes anti-acusación y pro-Trump, mientras que de otra manera se hicieron pasar por estadounidenses comunes. A veces las cuentas presentaban errores obvios. Un moderador de una página popular «BL» se llamaba «Ellen Dancey», pero presentaba la cara de un hombre generado por la IA. La única publicación de Dancey en su página de perfil decía «Hola, bienvenido a mi libro de rostros».

Gleicher dijo que usar las caras generadas por la IA era más probable que atraparan a los malos actores que ayudar a enmascarar sus identidades.

“Detectamos estas cuentas porque estaban involucradas en comportamientos falsos. El uso de perfiles generados por IA como una forma de parecer más reales en realidad no los ayuda ”, dijo Gleicher, y agregó que los perfiles falsos tenían más probabilidades de disparar sensores automáticos de cuentas falsas. «Lo más importante aquí es la atrocidad de la red en el uso de identidades falsas».

El grupo Epoch Media no respondió de inmediato a una solicitud de comentarios.

La red de páginas falsas incluía 89 páginas, 156 grupos y 72 cuentas de Instagram. Epoch Media Group, que dirige The Epoch Times, está dirigido por practicantes de Falun Gong, quienes creen que el mundo pronto se dirigirá a un día del juicio, donde todos aquellos etiquetados como comunistas serán enviados al infierno. Un ex editor de La Gran Época le dijo a NBC News en agosto que los practicantes «creen que Trump fue enviado por el cielo para destruir al Partido Comunista».

La Gran Época fue el mayor comprador de anuncios pro-Trump en Facebook hasta agosto. La compañía se le prohibió la compra de anuncios en Facebook después de que violó repetidamente las normas de publicidad políticas de la compañía.

La Gran Época ha desarrollado defensores dentro y alrededor de la administración Trump. página oficial de Facebook del presidente Donald Trump ha publicado sus historias al menos media docena de veces este año. Lara Trump, la nuera del presidente, realizó una entrevista de 40 minutos en Trump Tower con The Epoch Times en mayo.

Las páginas oficiales de Facebook de La Gran Época siguen activas y «verificadas» en Facebook, con más de 10 millones de seguidores combinados. La Gran Época sigue siendo uno de los mayores gastadores de anuncios políticos en YouTube, propiedad de Google.

El sitio de verificación de datos Snopes revelado por primera vez a la red de la BL en octubre. Facebook no acredito a Snopes por su labor en un comunicado de prensa que anuncia el derribo.

“Cada pieza de informes de código abierto es valioso”, dijo a NBC News Gleicher. “Tenemos que tomar el tiempo para encontrar toda la red.”

Snopes salió en el programa de verificación de datos de Facebook en febrero. El vicepresidente de operaciones de Snopes, Vinny Green, dijo en ese momento que “no parece que nos esforcemos por hacer que la verificación de hechos de terceros sea más práctica para los editores, parece que nos esforzamos por facilitarlo para Facebook «.

Verde dijo a NBC News que Snopes habia alertado a Facebook a la red del BL en varias ocasiones desde octubre, pero no recibió una respuesta.

«Facebook continúa con sus esfuerzos para convencer a los medios y sus usuarios de que piensen que es serio abordar la autenticidad y el fraude en su plataforma», dijo Green. «Primero informamos sobre esta red en octubre, y continuaremos haciéndolo durante el resto del año». a un gran costo para nuestra organización «.

«La idea de que Snopes podría pasar de ser un socio confiable a una persona non grata, y que nuestros correos electrónicos sean ignorados cientos de veces mientras informamos sobre un comportamiento problemático en su plataforma es aborrecible y es una demostración de su absoluto desprecio por la prensa independiente», dijo Green.