Le secret « Project Guardian » de Twitter vise à protéger les personnages controversés et les utilisateurs ayant de nombreux abonnés contre une attaque de trolls et de haineux, selon un rapport de Bloomberg. La plate-forme maintiendrait une liste de milliers d'utilisateurs que Twitter considère à haut risque de harcèlement, qui comprend des musiciens, des athlètes professionnels, des journalistes et d'autres utilisateurs particulièrement importants, même si ce n'est que pour le moment.
Bloomberg note que lorsque Twitter reçoit un rapport d'un message abusif lié à un compte de la liste, l'équipe de modération de contenu de Twitter répondra à ce rapport plus rapidement que tous les autres qu'il a alignés. L'idée derrière le programme est que Twitter peut empêcher la diffusion de contenu préjudiciable, ainsi que conserver le contenu des tweeters proéminents et moins susceptibles de dénoncer l'intimidation sur la plate-forme.
Les utilisateurs qui sont pris dans un drame viral sur Twitter peuvent également être inclus, mais généralement seulement temporairement
Yoel Roth, responsable de l'intégrité du site de Twitter, a déclaré à Bloomberg qu'un éventail d'utilisateurs composent sa liste Project Guardian, et qu'ils ne doivent pas nécessairement être des célébrités. Les utilisateurs qui sont pris dans un drame viral sur Twitter peuvent également être inclus, mais généralement seulement temporairement. Une fois les 15 secondes de gloire passées, Twitter supprimera cet utilisateur de Project Guardian, tandis que d'autres auront une place plus permanente sur la liste. Comme l'indique Bloomberg, un utilisateur peut être ajouté au programme lorsqu'un employé de Twitter remarque qu'il voit de gros volumes de messages haineux, même si cet utilisateur ne s'en rend pas compte. D'un autre côté, un utilisateur très en vue peut même demander à son responsable de demander personnellement à Twitter d'offrir plus de protection.
Selon Bloomberg, certains utilisateurs inscrits au Project Guardian dans le passé incluent le maquilleur James Charles, l'activiste égyptien Wael Ghonim, ainsi que l'ancien commissaire de la Food and Drug Administration des États-Unis, Scott Gottlieb. Twitter a également utilisé le programme pour protéger les journalistes qui couvrent des sujets controversés, comme les émeutes de janvier ou 8chan.
Project Guardian ne protège pas seulement les utilisateurs ; il protège également Twitter des mauvaises relations publiques
En plus de Project Guardian, Bloomberg a découvert que Twitter utilise plusieurs autres facteurs pour hiérarchiser ses réponses aux rapports des utilisateurs. Cela inclut l'impression d'un message, le nombre d'abonnés de l'utilisateur en question, ainsi que si le tweet signalé est réellement dangereux. Rien ne semble indiquer qu'un incident particulier a déclenché la création du programme, mais Bloomberg dit qu'il pourrait exister depuis deux ans ou plus.
Comme le souligne Bloomberg, Project Guardian ne protège pas seulement les utilisateurs ; cela protège également Twitter des mauvaises relations publiques. En mars, Twitter a été critiqué pour son incapacité à apprivoiser les intimidateurs qui ont bombardé l'ancien mannequin Chrissy Teigen. Les trolls ont ciblé Teigen en affirmant sans fondement qu'elle faisait partie d'une théorie du complot impliquant un réseau de célébrités pédophiles. Elle a quitté Twitter à la suite de l'intimidation (bien qu'elle soit revenue depuis). Les critiques soutiennent que Twitter aurait pu faire plus pour protéger Teigen, bien que Teigen elle-même ait déclaré qu'elle ne blâmait pas la plate-forme pour le barrage d'abus.
Juste avant cette révélation, Twitter a été apporter des changements rapides à la plate-forme. En l'espace d'une journée seulement, Twitter a acquis la plate-forme de messagerie Quill, a lancé un test pour modifier le processus de signalement, a commencé à piloter des avertissements de contenu individuels et a commencé à expérimenter un onglet « Pour vous » de style TikTok. Cette vague d'annonces est intervenue au cours de la première semaine environ après que l'ancien directeur technique de Twitter, Parag Agrawal, ait remplacé Jack Dorsey en tant que PDG. Dans une interview peu de temps après la prise de contrôle d'Agrawal, il a déclaré qu'il espérait accélérer “l'exécution” de Twitter et rationaliser ses opérations.