Facebook teste des invites qui relieront les utilisateurs au support et aux ressources anti-extrémisme si l'entreprise pense que l'utilisateur connaît quelqu'un qui pourrait être sur la voie de l'extrémisme, ou si l'utilisateur a été exposé à du contenu extrémiste eux-mêmes, selon un rapport de CNN Business.
Dans une déclaration à The Verge, un porte-parole de Facebook a déclaré que le test fait partie du “travail plus large de l'entreprise pour évaluer les moyens de fournir des ressources et un soutien aux personnes sur Facebook qui ont pu interagir avec ou ont été exposées à du contenu extrémiste, ou peuvent connaître quelqu'un qui est à risque.”
Facebook dit qu'il continuera à supprimer le contenu extrémiste qui enfreint ses règles, bien que l'entreprise ait eu des problèmes pour rechercher et supprimer du contenu similaire, même de groupes qu'elle a activement essayé de lancer la plate-forme. Facebook a longtemps fait l'objet d'un examen minutieux de la part du public et des législateurs, car beaucoup disent que ses algorithmes divisent les gens et les poussent vers des idéologies extrêmes, ce que l'entreprise a elle-même reconnu.
Une histoire d'échec dans le suivi et la suppression du contenu extrémiste
Facebook dit que les tests vont de pair avec son initiative de redirection, qui « aide à combattre l'extrémisme violent et les organisations dangereuses » dans plusieurs pays. Selon sa page Web, le programme (comme son nom l'indique) redirige les utilisateurs vers des ressources éducatives au lieu d'autres contenus haineux. Il indique également que le test fait partie de sa réponse à la campagne d'appel à l'action de Christchurch, et le test identifie à la fois les utilisateurs qui ont peut-être vu du contenu extrémiste et ceux qui ont fait l'objet de mesures d'exécution prises contre eux par Facebook dans le passé.
Le test renvoie à des ressources destinées à aider une personne à intervenir si elle craint qu'un être cher rejoigne un groupe ou un mouvement extrémiste violent. Sur une page de support Facebook intitulée « Que puis-je faire pour prévenir la radicalisation », Facebook renvoie au programme ExitUSA de Life After Hate, qui, selon Facebook, aide les gens à trouver « un moyen de sortir de la haine et de la violence ». La page d'assistance donne également des conseils sur la façon de s'engager avec quelqu'un qui essaie de quitter un groupe haineux.
Facebook, comme d'autres plateformes, a des problèmes d'extrémisme depuis longtemps, et même si c'est bien qu'il essaie de le combattre, certains de ses efforts semblent avoir dû être mis en œuvre il y a longtemps. C'est le cas de nombreuses formes de mauvais comportement en ligne, car de nombreuses plateformes ont encore du mal à mettre la main sur les utilisateurs qui harcèlent les femmes ou affichent d'autres comportements toxiques en général.