Si Facebook utilise un réseau «BL» trompeur, cela ne fonctionne pas

Depuis octobre 2019, Snopes suit les activités d'un média numérique appelé «The BL» - abréviation de «The Beauty of Life» - qui a un explicitement stratégie éditoriale pro-Trump. De plusieurs manières, comme nous l'avons montré dans plusieurs enquêtes , ce point de vente fait fi des conditions de service de Facebook en grande partie sans conséquence. Au moment de ce rapport, le BL est en train de construire et de maintenir un réseau labyrinthique de groupes Facebook pro-Trump administré par de faux profils pour gonfler artificiellement sa portée - une activité qui semble être un exemple classique de la manière de violer le ' comportement inauthentique coordonné »règles Facebook réclamations ils appliquent.



Bien que le BL maintient un New York adresse de travail et son rédaction comprend plusieurs employés basés aux États-Unis, le point de vente dans son ensemble est littéralement l'édition en anglais de Epoch Times Vietnam , et une grande partie du comportement inauthentique du BL semble provenir du Vietnam. L'incapacité de Facebook à détecter et contrer les acteurs étrangers malveillants, comme l'Agence russe de recherche sur Internet (IRA) ou les «adolescents macédoniens» qui ont profité de fausses nouvelles pro-Trump, était un échec central de Facebook à l'approche de l'élection présidentielle de 2016, selon plusieurs agences de renseignement. Facebook soutient qu'ils prennent ce type de menace au sérieux alors que leur plateforme se prépare pour les futures élections.

Les actions de Facebook contre le BL - un média dont nous avons démontré qu'il crée de faux profils américains de l'étranger pour promouvoir le contenu politique américain - semblent toutefois minimes. Alors que 282 des 315 profils associés à BL, nous identifié comme les faux semblent avoir été supprimés à la suite de notre rapport de novembre 2019, Facebook semble n'avoir pris aucune mesure plus large contre le média dans son ensemble, ou contre la plupart des groupes Facebook créés par cette activité frauduleuse. Facebook n’a pas répondu à notre demande de clarification sur son action apparente contre les faux profils du BL, nous ne savons donc pas si Facebook ou ses systèmes automatisés sont responsables de la suppression de ces profils.





Réponse de Facebook aux reportages de Snopes sur The BL

Dans notre rapport de novembre 2019, Snopes a identifié 315 faux profils utilisé pour administrer 176 groupes ou pages avec des noms pro-Trump. Le but principal ou unique de ces groupes était (et est toujours) de partager des liens vers le BL. Dans le cadre de ce rapport, nous avons demandé à Facebook si ce comportement constituait un comportement inauthentique coordonné, que Facebook lui-même définit comme «des groupes de pages ou de personnes travaillant ensemble pour induire les autres en erreur sur qui ils sont ou ce qu'ils font» et comprend explicitement l'utilisation de faux profils ou d'actions qui «augmentent artificiellement la popularité du contenu». «Comme toujours», nous ont-ils dit en novembre, «nous prendrons des mesures si nous découvrons une activité non conforme.»

La société prétend annoncer ces suppressions lorsqu'elles se produisent. Lors d'une conférence de presse de novembre 2019, Facebook a dit aux journalistes , «Lorsque nous exposons [un comportement non authentique coordonné], nous l’annonçons publiquement et nous le supprimons de la plate-forme.» En raison des actions des systèmes automatisés ou de l'intervention directe de Facebook, quelque 280 faux profils que nous avons identifiés n'existent plus sur Facebook, mais si Facebook supprimait ces faux profils associés au BL, ils ne s'attribuent pas le mérite de cette action. Et malheureusement, nous avons identifié au moins Plus de 400 faux profils qui ont été créés et utilisés par le BL depuis notre dernier rapport:



[Base de données - Faux profils, groupes et pages restants et nouveaux associés au BL ]

Ces profils, qui maintenant faire usage des visages générés artificiellement en tant que photos de profil, ont rapidement remplacé ceux que Facebook ou ses systèmes automatisés auraient supprimés. Comme leurs camarades tombés au combat avant eux, ces comptes continuent le travail chargé de s'engager et de promouvoir le contenu des groupes Facebook «pro-Trump» du BL. Bien que ces chiffres puissent sembler faibles par rapport aux 7,7 millions de faux profils Facebook prétend supprimer un jour donné, ces faux profils visent à accroître un public que nous estimons déjà composé de plus de 28 millions d'abonnés (en grande partie réels).

De plus, la suppression ou la suppression de faux profils - quel qu'en soit le responsable - ne semble pas dissuader le BL d'utiliser un comportement coordonné non authentique. Non seulement la suppression de Facebook ne suit pas le rythme de la production de nouveaux faux profils par la BL, mais les groupes créés par et avec le soutien de ces faux profils restent intacts par Facebook. Notre Rapport de novembre identifié 103 groupes Facebook associés à BL , mais un seul semble avoir été supprimé. Cet état de fait est, en partie, permis par une faille employée par le BL: chaque fois que le BL crée un groupe, il affecte presque toujours au moins un véritable membre du personnel du BL (souvent chroniqueur d'opinion Matt Tullar ) ou l'un des médias vérifiés du BL ou des pages Facebook très suivies en tant que modérateur, en plus des faux profils.

L'implication de Tullar dans le programme de création de groupe a été plus démontrable dans les cas où tous les faux administrateurs de profil d'un groupe créé par BL ont été supprimés de Facebook. Dans ces cas, Tullar a été exposé en tant que seul administrateur d'un grouper - comme ce fut le cas le 22 novembre 2019, dans le groupe «Nous sommes aux côtés du président Trump KAG 2020!» suite à la suppression de faux comptes d'administrateur, «Josephson Magnolia», «Amy Justus», «Rodgers James», «Paul Young» et plusieurs autres. Le jour suivant, sept nouveaux profils d'administrateur ont été ajoutés au groupe au cours d'une période au cours de laquelle Tullar était la seule personne autorisée à le faire:

Cela signifie que même si tous les faux profils étaient supprimés - un résultat qui semble improbable étant donné l'incapacité apparente de Facebook à les détecter en premier lieu - le BL aurait toujours accès aux groupes qu'ils ont créés, soit via leur page Facebook ou leur employé. . Par exemple, à moins que Facebook ne supprime le compte de Tullar ou ne supprime les pages BL de marque vérifiées par Facebook, les groupes Facebook au cœur du programme restent disponibles pour le BL, et ces groupes peuvent ensuite être remplis avec davantage de faux profils. Pour donner une idée de l'ampleur de cette opération, nous fournissons la vidéo suivante, qui montre combien de faux profils (en grande partie) ont rejoint le BL associé. grouper «Les Américains pour le président Trump» en 2019 entre le 5 et le 10 décembre:

Pourquoi Facebook ne supprime-t-il pas les groupes créés par les faux profils incontestablement du BL? C'est l'une des nombreuses questions que nous avons posées à Facebook, qui n'a pas répondu à notre demande.

Une opération internationale promouvant de manière non authentique le contenu politique américain

Le BL est une édition anglaise renommée d'Epoch Times Vietnam, qui porte le nom de DKN.tv (Đại Kỷ Nguyên se traduit par «Epoch Times»). Suivant la publication de notre première histoire , un serveur que nous avons identifié comme étant utilisé par le BL mais enregistré sur «Epoch Times Vietnam» modifié son enregistrement DNS sur «The Beauty of Life [anciennement connu sous le nom de] Epoch Times Vietnam». Si vous visitez DKN.tv, un site Web en vietnamien, et que vous sélectionnez l'édition anglaise, vous êtes dirigé vers TheBL.com:

Dans notre rapport original, nous avons documenté liens multiples entre le BL et le plus large L'empire médiatique du Falun Gong cela inclut The Epoch Times. Cependant, l'éditeur d'Epoch Times, Stephen Gregory, a contesté cette information. Nous avons contacté Trung Vu, The BL’s Président , pour obtenir des éclaircissements sur le comportement de son entreprise sur les réseaux sociaux et ses liens avec d'autres propriétés d'Epoch Media Group, mais nous n'avons pas reçu de réponse. En octobre 2019, un membre non identifié du personnel du BL nous a dit par e-mail que «le BL n'a AUCUN lien avec Epoch Times».

Nos discussions avec l’éditeur d’Epoch Times suggèrent néanmoins un lien avec Epoch Times Vietnam. Gregory, au cours de multiples courriels contestant les liens entre le BL et The Epoch Times, a soutenu comme défense qu'Epoch Times Vietnam est en fait indépendant du réseau de publications plus large d'Epoch Times. «Depuis octobre 2018 environ, Epoch Times Vietnam ne fait plus partie d'Epoch Media Group, la société mère d'Epoch Times», nous a dit Gregory par e-mail.

La légitimité de cet argument mise à part, ce contexte vietnamien est crucial à la lumière des activités plus larges de la BL sur Facebook, qui consistent principalement en des groupes Facebook peuplés de faux profils américains originaires du Vietnam. Tous les deux Le BL et DKN.tv sont des entreprises américaines du point de vue de l'enregistrement des entreprises, mais elles sont internationales à la fois du point de vue éditorial et de la main-d'œuvre - dont une grande partie, du point de vue des médias sociaux, est située au Vietnam.

Le BL est peut-être un média américain enregistré et géré par les États-Unis, mais une grande partie du comportement qui profite au BL - du moins sur Facebook - présente des similitudes flagrantes avec une activité qui serait classée comme inauthentique en raison de son usurpation d'identité d'Américains. par des acteurs potentiellement étrangers. Ce point est crucial: se faire passer pour des Américains de l'étranger, même si ce n'est pas l'objectif du BL en particulier, est la façon dont les acteurs étrangers influencent généralement la politique américaine et les élections présidentielles.

Un exemple ouvertement politique de ce type de violation de Facebook serait l'Agence de recherche Internet (IRA) soutenue par le Kremlin, qui fait partie des efforts de la Russie pour s'ingérer dans les élections présidentielles américaines de 2016. Un autre exemple bien connu est le ' Adolescents macédoniens »Qui dirigeait de faux sites d'information pro-Trump avant cette même élection. Dans ce dernier cas, cependant, la motivation était d'ordre financier et non politique. Le contenu du BL est explicitement pro-Trump dans sa stratégie éditoriale, et le mouvement plus large du Falun Gong qui sous-tend les publications d'Epoch Times est aurait pleinement investi dans la présidence Trump. Cela signifie-t-il que le but du comportement est politique, ou est-ce que le motif est financier destiné à attirer un public plus large pour Epoch Times?

«Il n'est pas clair en soi pourquoi une société de médias vietnamienne consacrerait des efforts et des ressources à la promotion de la propagande pro-Trump aux États-Unis», a-t-il ajouté. Joshua Tucker , un professeur de politique et de science des données à NYU et co-fondateur et codirecteur du laboratoire NYU Social Media and Political Participation (SMaPP), nous l'a dit par e-mail. «Le rasoir d'Occam suggérerait que soit (a) il y a un but lucratif ici ou (b) ils le font au nom de quelqu'un d'autre qui les paie pour le faire. En l'absence de preuves supplémentaires, je n'ai aucune idée de laquelle de ces explications [est] plus vraisemblablement correcte, mais je les trouve toutes les deux plus crédibles que l'idée que cette société a un intérêt fondamental pour la politique américaine.

Tucker, qui a longtemps soutenu qu'une menace tout aussi grande rendue possible par les plateformes de médias sociaux était que les acteurs nationaux utilisent les mêmes outils créés par des acteurs étrangers en 2016, nous a dit que «la plus grande question à se poser est de savoir ce que Facebook ferait si cela était entièrement géré. d'une opération domestique, car cela se produira sûrement pendant la campagne 2020. » En octobre 2019, le journaliste Judd Legum documenté comportement similaire de Facebook basé sur la création de groupes par la publication conservatrice basée aux États-Unis Daily Wire. À ce jour, Facebook n'a pas non plus résolu cette situation.

Darren Linvill, professeur de communication à l'Université Clemson, dont la recherche sur la désinformation en ligne a informé plusieurs agences de renseignement et de sécurité américaines considèrent le BL comme un agent motivé financièrement. Contrairement aux faux profils américains créés par les Russes, qu'il décrit comme très réaliste , Linvill considère les efforts du BL pour créer de faux Américains comme une «opération fausse». Par e-mail, il a expliqué que «ces faux comptes sont simplement destinés à astroturf et leur travail consiste à… rendre le contenu réel par opposition au compte »qui partage le contenu. Le fait qu'ils ne soient pas très convaincants n'est guère un problème, a-t-il soutenu, car «dans un seul but, vous pouvez être négligé et toujours être efficace».

Quel que soit le type spécifique de comportement inauthentique coordonné que le BL pratique - étranger ou national, politique ou financier - la réponse de Facebook à cela est incompatible avec ses propres déclarations publiques qui proclament un engagement à éradiquer de tels abus.

Facebook se soucie-t-il des comportements non authentiques coordonnés?

Facebook, selon les personnes chargées de faire respecter l'intégrité sur la plate-forme, affirme que dans leurs relations avec un comportement inauthentique coordonné, l'objet du contenu n'est pas pertinent. Au lieu de cela, affirme Facebook, la plate-forme se concentre sur le comportement des acteurs malveillants, que leur contenu soit étranger ou national, ou qu'ils aient des motivations financières ou politiques. Dans un Facebook de novembre 2019 appuyez sur appel intitulé «Comment Facebook s'est préparé pour les élections générales de 2019 au Royaume-Uni», le responsable de la sécurité de Facebook, Nathaniel Gleicher, a rendu ce critère explicite:

Lorsque nous prenons des mesures pour supprimer quelqu'un en raison de son comportement trompeur, nous ne regardons pas, nous ne révisons pas et nous ne considérons pas le contenu qu'ils partagent. Ce sur quoi nous nous concentrons, c'est le fait qu'ils trompent ou induisent les utilisateurs en erreur par leurs actions. Par exemple, utiliser des réseaux de faux comptes pour cacher qui ils sont et cacher qui est derrière l'opération .

Le BL pratique indiscutablement le seul exemple explicitement énoncé dans la description de Gleicher: «réseaux de faux comptes». Les éléments de ce réseau de comptes se coordonnent les uns avec les autres pour induire les utilisateurs en erreur. Les groupes politiques pro-Trump du BL sont des expressions spontanées de patriotisme et non, comme c'est le cas en réalité, dirigés au seul bénéfice d'une seule plateforme médiatique. La création de groupes à travers de faux profils est clairement faite pour «cacher qui est derrière l'opération».

Pourtant, les actions de Facebook contre cet abus documenté équivalent apparemment à la suppression d'une fraction des faux profils associés à The BL. Dans le même appel à la presse, concernant les mesures prises par Facebook en vue des élections britanniques de 2019, Gleicher mentionné «Nous savons que les mauvais acteurs utilisent de faux comptes pour masquer leur identité et infliger des dommages à nos plates-formes. C'est pourquoi nous avons créé un système automatisé pour rechercher et supprimer ces faux comptes. »

Ces «systèmes», a expliqué Gleicher, «bloquent des millions de faux comptes chaque jour, souvent quelques minutes après leur création». Mais un centre d'excellence en communication stratégique de l'OTAN en décembre 2019 étude de Facebook, Instagram, Twitter et YouTube ont constaté que trois semaines après que les chercheurs aient acheté de faux profils sur chacune de ces plateformes, 95% sont restés en ligne.

Pour sa défense, Facebook pourrait faire valoir qu'un média dont peu ont entendu parler est un problème mineur par rapport aux menaces plus importantes sur la plate-forme. Mais cette excuse signifierait également que les mesures prises par Facebook contre les comportements inauthentiques et vantées à la presse dans sa salle de rédaction sont également insignifiantes. Lors de notre décompte le plus récent, le réseau Facebook BL plus large comprenait plus de 67 pages, plus de 131 groupes et plus de 400 faux comptes.

Un examen des récentes opérations menées par les enquêteurs internes de Facebook montre que l’ampleur de l’activité du BL éclipse celle des mesures que Facebook a publiquement proposées comme preuve de leur réponse efficace à cette activité:

30 octobre 2019 : Aujourd'hui, nous avons supprimé 35 comptes Facebook, 53 pages, [et] sept groupes… originaires de Russie et concentrés sur Madagascar, la République centrafricaine, le Mozambique, la République démocratique du Congo, la Côte d’Ivoire et le Cameroun.

20 septembre 2019 : Aujourd'hui, nous avons supprimé 65 comptes Facebook… impliqués dans des comportements non authentiques coordonnés dans le cadre d'un réseau national en Espagne.

16 septembre 2019 : Nous avons supprimé 76 comptes, 120 pages Facebook, [et] un groupe… pour avoir adopté un comportement inauthentique coordonné axé sur le pays en Irak.

21 août 2019 : Aujourd'hui, nous avons supprimé 89 comptes Facebook, 107 pages Facebook, [et] 15 groupes Facebook… pour avoir adopté un comportement coordonné inauthentique originaire du Myanmar.

Mais plus largement, le BL en tant qu'étude de cas démontre que la réponse de Facebook à un comportement inauthentique coordonné - simplement supprimer des profils, des pages et parfois des groupes - est inefficace si elle n'est pas associée à des sanctions plus sévères pour l'entité bénéficiant de ce comportement. Le BL en tant que média, qui a payé Facebook au moins un demi-million de dollars en argent publicitaire, semble n'avoir subi aucune répercussion directe sur ses actions. En effet, Facebook semble n'avoir pris aucune mesure contre l'un des profils humains réels associés aux membres du personnel du BL, et le point de vente continue de participer et de bénéficier de l'utilisation abusive, tandis que toutes ses pages Facebook de marque restent vérifiées par Facebook.

«Nous renforçons la transparence de notre plate-forme», a déclaré Gleicher en novembre, «afin que le public, ainsi que les chercheurs et les journalistes open source, puissent trouver et dénoncer eux-mêmes davantage de mauvais comportements.» Cette déclaration n'est pas pertinente si Facebook ne prend pas de mesures contre les auteurs identifiés par leur soi-disant «transparence accrue».

Nous mettrons à jour notre histoire si Facebook répond à nos demandes.