Cela a été une grande semaine pour les contes de modération du contenu. Vendredi dernier, Radiolab posté un épisode fascinant sur Facebook d’évolution de l’approche de décider de ce qui reste sur la plate-forme. L’épisode a utilisé une série de données historiques sur les débats à l’intérieur de la société pour éclairer les nombreuses difficultés rencontrées par une entreprise cherchant à réguler la parole à l’échelle mondiale.
Jeudi, la carte-Mère de Jason Koebler et Joseph Cox posté leur propre histoire de la modération du contenu sur Facebook, mais avec un regard tourné vers le futur. Sur la base d’entrevues avec Facebook dirigeants, actuels et anciens, les modérateurs, et les chercheurs universitaires, Koebler et Cox afin de définir l’ampleur du problème et Facebook efforts pour l’envelopper de ses bras autour d’elle.
C’est un morceau que les crédits Facebook pour le travail de réexion, il l’a fait sur le sujet, tout en exprimant un profond scepticisme pour le projet global. Un passage à mi-chemin à travers la pièce a resté avec moi:
La taille est la seule chose que Facebook n’est pas prêt à abandonner. Et si Facebook du contenu de l’équipe de modération a été donné à un travail de Sisyphe: Réparer le désordre Facebook vision du monde et le modèle d’entreprise a créé, sans changer la vision du monde ou de modèle d’affaires lui-même.
“Faire leur stock et d’échange dans la sollicitation de unvetted, dieu-sait-quel contenu de littéralement n’importe qui sur terre, avec tout ce que les ordres du jour, idéologiques, les inclinations, les objectifs politiques, et en essayant de la rendre durable — c’est en fait presque ridicule quand vous pensez à ce sujet de cette façon,” Roberts, le professeur d’UCLA, a déclaré à la carte Mère. “Ce qu’ils essaient de faire est de résoudre la nature humaine fondamentalement.“
Facebook n’y aurait probablement pas dire que c’est de tenter de “résoudre” la nature humaine. Mais il est vrai que les efforts de la société tout commence à partir de la notion qu’elle peut et doit se connecter tout le monde sur terre, malgré le fait d’avoir peu de certitude sur les conséquences de le faire.
La pièce attire de nouveau l’attention sur le rôle Sheryl Sandberg a joué dans la modération du contenu des litiges, reporting que Facebook du chef de l’exploitation fait peser sur les appels difficiles de temps en temps. (Mark Zuckerberg n’). Il examine la difficulté à retenir le contenu des modérateurs, qui sont chargés avec, souvent, une terrible emploi, et — en raison d’une évolution constante de l’ensemble de normes doit constamment être remis à niveau.
Un discours de haine présentation obtenus par la carte Mère a une liste de tous les changements récents à la glissière de pont, y compris les ajouts, les suppressions, et des précisions sur certains sujets. Dans quelques mois, Facebook a poussé les changements à la haine document de formation à plusieurs reprises à l’intérieur d’une fenêtre de quelques jours. En tout, Facebook tordu le matériel au-dessus de 20 fois dans une période de cinq mois. Certains changements de politique sont assez légère pour ne pas exiger n’importe quelle sorte de recyclage, mais d’autres, plus nuancée des modifications besoin de modérateurs pour être recyclés sur ce point. Certaines présentations individuelles obtenues par la carte Mère s’étendent dans la centaines de diapositives, pas à pas, à travers des exemples et des points de balle sur pourquoi certains morceaux de contenu doit être retiré.
Pour la plupart, à l’instar de Radiolab devant elle, la pièce exprime l’énormité du défi. La réaction en ligne a été largement sceptique. (New York, Max Lire: “Tous ces supposés Nietzsche fans réunis dans le projet fédérateur de faire application d’une “cohérence” ensemble de règles pour tous les discours et les relations humaines. Bonne chance à toi!!!”)
Peut-être les événements futurs compliquer Facebook du projet de raccordement de tout le monde. Mais si ils ne le font pas, je reviens à l’idée que la société doit procéder à Zuckerberg l’idée d’une Cour Suprême pour la modération du contenu. Comme je l’ai dit plus tôt cette semaine: en fin de compte, la question de ce qui appartient à Facebook ne peut pas être décidé uniquement par les personnes qui y travaillent.
Allemagne
Hier, j’ai promis que je vous laisser savoir si les auteurs de cette étude sur Facebook et de réfugiés de la violence en Allemagne a obtenu de nouveau à moi. Ma question était de savoir comment ils pourraient rendre compte de la chronologie dans leur étude: il semblait impossible, étant donné les données présentées, qu’ils puissent dire avec certitude que les posts sur Facebook amène la violence, plutôt que l’inverse.
J’ai entendu de retour de l’un des auteurs, Karsten Müller. Il a fait deux points clés. L’un, l’étude prend soin de ne pas le dire avec certitude qu’elle prouve le lien de causalité. Les auteurs de ligne exacte est: “Les résultats de cette section devrait être interprété comme purement suggestif et ne permettent pas pour l’inférence causale.”
Le deuxième point repose sur une description détaillée de l’étude est d’élaborer une méthodologie qui s’appuie sur le développement de modèles de Facebook d’utilisation sur la base d’interactions sur les pages publiques, puis en les corrélant avec les instances de l’anti-réfugiés de la violence. Müller m’a dit ce qui permet aux auteurs de faire quelques demandes de causalité est l’étude de l’utilisation de l’internet à des pannes afin de déterminer quand les municipalités de l’allemagne a moins d’exposition à l’Facebook:
Comme il s’avère, nous constatons que la corrélation entre l’interaction sociale locale médias pénétration et une mesure de l’anti-réfugiés sentiments sur Facebook, d’une part, et les crimes de haine sur les autres, semble disparaître dans les semaines ces pannes se produisent. Un graphique qui permet de visualiser ces résultats peuvent être trouvés dans la version la plus récente du document, disponible sur SSRN (recherchez “mise à la poubelle nuage de points”). Si on veut prétendre que les médias sociaux n’a pas de propagation de l’effet sur les crimes de haine, où les tensions sont déjà élevés (qui est ce qu’on mesure), on aurait besoin d’expliquer la médiation de l’effet de ces pannes.
Alors, comment pourriez-vous expliquer que la médiation de l’effet? Tyler Cowen prend une fissure à elle sur son blog:
Même si internet ou Facebook pannes ne prédictive effet sur les attaques d’une certaine manière, cela montre que Facebook est un moyen de communication utilisé pour organiser des rassemblements et des attaques (comme le téléphone une fois pourrait avoir été), et non pas, comme les auteurs l’ont à plusieurs reprises le suggèrent, que Facebook est en quelque sorte la génération et le fouet en place et le contrôle du sentiment raciste au fil du temps. Encore une fois, de comparer cette possibilité à l’ensemble de la littérature. Il ya de bonnes preuves que la violence antisémite à travers les régions allemandes est assez persistant, avec des pogroms durant la en Noir de la Mort prédire la synagogue attaques au cours de la période Nazie. Et on veut nous faire croire que les sentiments racistes diminuer dans la passivité tout simplement parce que les voyous ne peut pas accéder à Facebook pour quelques jours ou peut-être une semaine?
Cowen post est encore la peine de lire en entier. Comme je l’ai mentionné hier, une grande partie de la confusion autour de l’étude allemande vient du fait que la plupart de ces données n’est pas disponible pour nous. Les données anonymisées, partagé en toute sécurité avec bien contrôlés universitaires, serait susceptible de nous rapprocher un peu plus de la vérité.
La démocratie
Google supprime les comptes ayant des liens avec l’Iran sur YouTube et d’autres sites
L’influence de l’iran sur la campagne mis à jour par FireEye et Facebook avait planches sur YouTube et Blogger ainsi, Tony Romm rapports:
Google a annoncé jeudi qu’elle supprimés 58 comptes ayant des liens avec l’Iran sur sa plateforme de vidéos YouTube et d’autres sites, le dernier signe que les agents étrangers de partout dans le monde cherchent de plus en plus à se répandre de la désinformation sur un large éventail de sites web populaires.
Les nouvelles suppressions ciblées de 39 chaînes sur YouTube, qui a plus de 13 000 vues aux États-unis, ainsi que de 13 comptes sur le réseau social Google Plus et six comptes sur Blogger, sa plateforme de blogs, a indiqué la compagnie. Kent Walker, Google senior vice president of global affairs, a déclaré dans un blog postthat chacun des comptes eu des liens avec la République Islamique d’Iran, de la Radiodiffusion ou de l’IRIB, qui est lié à l’Iran de l’ayatollah, et qu’ils “déguisée de leur connexion à cet effort.”
Comment FireEye a Aidé Facebook Place une Campagne de Désinformation
Kate Conger et Sheera Frenkel nous promener à travers la façon dont FireEye trouvé l’Iranienne de l’opération:
“Cela a commencé avec un seul compte de médias sociaux ou d’un petit ensemble de comptes qui étaient en train de pousser cette politique sur le thème du contenu qui n’a pas nécessairement semblent en ligne avec les personas que les comptes ont adopté,” a dit M. Foster. De nombreux faux comptes, qui, étendu sur Facebook, Instagram, Twitter et Reddit, le contenu partagé de la Liberté Devant la Presse.
Plus de deux mois, M. Foster et un petit groupe d’analystes cartographié les connexions entre les comptes et découvert de plus de.
Tentative de Piratage des Électeurs de la Base de données Était une Fausse Alarme, le Parti Démocratique Dit
Mercredi, je vous ai apporté des nouvelles que le Comité National Démocrate a potentiellement une cible de piratage. Il s’avère que le Parti Démocratique du Michigan avait été engagé par les pirates informatiques pour simuler une attaque.
Fausses nouvelles de la guerre devient sophistiqué avant 2018 élections de mi-mandat
Sara Fischer examine quelques-unes des façons que la désinformation est l’évolution à venir des examens de mi-session:
Plus sophistiqué bot outils: de Nouveaux outils sont créés pour manipuler de l’information sur le blog ou un commentaire de niveau sur tous les sites web, dit Mike Marriott, chercheur au Numérique Ombres, numérique de une société de sécurité.
Dans un nouveau rapport, Marriott explique que des outils tels que BotMasterLabs et ZennoStore réclamation pour promouvoir le contenu de centaines de milliers de plates-formes, y compris les forums, blogs et de forums, mais en réalité, ils contrôlent un grand nombre de bots qui sont programmés pour poster sur des types spécifiques de forums sur différents thèmes.
Memphis, la police a utilisé de faux Facebook compte pour moniteur Noir Vie de la Matière, de l’essai révèle
Ce n’est pas seulement les Russes et les Iraniens s’engager dans des “coordonné inauthentique comportement” — c’est maintenant aussi une stratégie pour les officiers de police, Antonia Noori Fazan rapports:
Bob Smith a dit qu’il a vécu à Oxford, Miss. Sur Facebook, il a “aimé” des pages pour le Noir Vie de la Matière, Père Bernie Sanders (I-Vt.), Memphis Voix Pour la Palestine, à la Mi-Sud de la Paix et de la Justice, et le comédien Rickey Smiley, selon des images obtenues par L’Appel. “Je ne suis pas un flic,” écrit-il dans un privé Facebook message à un militant, ajoutant qu’il serait intéressé à participer à des manifestations dans la région de Memphis, mais c’était un peu d’un lecteur. En guise de photo de profil, il a posté une illustration d’un masque de Guy Fawkes.
C’est parce que “Bob Smith” n’était pas une personne de couleur, comme il l’avait demandé en ligne. Lundi, le serg. Timothy Reynolds blanc, un détective de la Police de Memphis du Bureau du Département de la Sécurité intérieure, a témoigné devant la cour fédérale qu’il avait créé le compte et à la demande d’ami des centaines de militants, selon l’Appel Commercial.
Facebook Interdictions Quiz App Que les Données saisies de Quatre Millions d’Utilisateurs
Deepa Seetharaman obtient une déclaration de la personne dont le test de personnalité application a été interdit par Facebook mercredi:
L’un des chercheurs derrière l’application, David Stillwell, appelé à l’interdiction “d’absurde et purement pour la PR des raisons.” M. Stillwell a déclaré les résultats de la myPersonality application ont été utilisés pour publier plusieurs de sciences sociales des documents de recherche au cours des dernières années, et que lui et son partenaire de recherche ont été invités à Facebook de bureaux en 2011 et 2015, afin de discuter de leur travail.
“Il est donc curieux que Facebook devrait tout à coup, les professer lui-même d’avoir eu connaissance de la myPersonality de la recherche et de croire que les données peuvent avoir été mal utilisé,” M. Stillwell a déclaré dans un communiqué.
Russe Trolls Semant La Confusion Au Sujet De L’Innocuité Des Vaccins Sur Twitter
Voici une histoire à partir de Azeen Ghorayshi qui prend de Twitter en parle constamment de “plate-forme santé” et le rend littérale:
Les comptes gérés par le gouvernement russe a soutenu la Recherche sur Internet de l’Agence tweeté à propos des vaccins environ 22 fois plus souvent que la moyenne de l’utilisateur de Twitter, l’étude trouvée. Les tweets est tombé à peu près également dans les pro-vaccins et anti-catégories de vaccins.
“Ils ne semblent pas avoir un point particulier de l’ordre concernant les vaccins — au contraire, ils semblent avoir une volonté de renforcer les deux côtés du débat,” a dit David Broniatowski, professeur adjoint de génie de l’université George Washington University et auteur principal de l’étude. “C’est conformément à cette idée de semer la discorde.”
Les Géants de la technologie Sont de plus en Défenseurs de la Démocratie. Maintenant Ce Qui?
Issie Lapowsky demande pourquoi il semble que les entreprises de haute technologie sont en train de faire plus pour protéger la nation contre les cyberattaques que le gouvernement:
Le Ministère de la Justice a émis cinglant mises en accusation de hackers russes et les trolls de cette année, mais sans la compétence internationale, ils sont en grande partie symbolique. La Maison Blanche a mis la hache dans son top cyber position politique à la suite du départ de l’ancien cybersécurité tsar Tom Bossert en avril. L’Engagement Global Center, l’un des Département d’Etat d’initiative qui a été réalisé afin de contrer de la propagande russe, a été privé de ressources pour la majeure partie de l’année écoulée. Et c’est n’importe qui conjecture qui, exactement, est chargé de s’assurer que l’information est partagée avec le droit des gens à travers le secteur public et privé.
“Chaque agence est de faire sa propre chose. Personne n’est responsable”, déclare Brett Bruen, ancien de la Maison Blanche directeur de l’engagement mondial sous le Président Obama. “Nous continuons à avoir une très cloisonnées processus au sein du gouvernement, a fortiori pour amener le secteur privé à la table pour essayer de comprendre cela.”
Suspect qui a mortellement poignardé l’homme noir en Pennsylvanie “aimé” près de 50 raciste alt-droit Facebook pages
Le suspect dans le meurtre d’un homme noir en Pennsylvanie a été imprégnée de nationalisme blanc sur Facebook, les rapports Alex Modifier:
Sur Facebook, Rocco “aimé” de près de 50 pages de la circulation dans les mèmes et de l’argot favorisée par le alt-droite et de l’ensemble de blanc mouvement nationaliste.
Rocco souscrit à des pages comme “Alt-Droit Mème de la Magie”, “Briser Marxisme Culturel” et de “Lazer Poutres Mèmes avec Fashy Thèmes,” ainsi que de la dispersion des conférenciers motivateurs et d’autres pages dédiées à la construction du corps. Rocco abonné à la page de l’Identité Dixie, un CULD-espace néo-Confédéré haine de groupe.
D’ailleurs
Apple supprime Facebook Onavo application à partir de l’App Store
Onavo fait un VPN app que les utilisateurs peuvent télécharger à naviguer sur le web de plus en privé. Mais Facebook, qui a racheté Onavo en 2013, l’a utilisé comme un système d’alerte précoce pour voir qui compétitif applications peuvent être gagne du terrain. (Un ancien Facebooker m’a dit le plus effrayant des applications a augmenté “low and slow” — petits, en chiffres absolus, mais de façon constante, et tout en conservant leur base d’utilisateurs.) Maintenant, Apple, qui a fait des tapes sur le dos sur des questions de vie privée une entreprise de messagerie de la stratégie, a exercé des pressions sur Facebook pour prendre Onavo de l’App Store. Il restera sur Android, mais c’est encore un coup à Facebook.
Facebook poaches nouvelle OCM Antonio Lucio de HP
Facebook a un nouveau directeur du marketing pour remplacer Gary Briggs.
Facebook, dirigeant d’entreprise Dan Rose quitte
Comme Peter Kafka notes ici, c’est la deuxième big-deal Facebook le départ cet été, après que le chef de la politique et de la communication Elliot Schrage. Rose, qui a rejoint Facebook en 2016, a supervisé le développement des affaires et a dirigé l’entreprise de l’acquisition d’Instagram, entre autres choses.
Les Nouvelles du Projet d’Alphabétisation est d’apprendre aux enfants à cesser de fausses nouvelles
Mark Sullivan et Tim Bajarin profil de la nouvelle Projet d’Alphabétisation:
Les Nouvelles du Projet d’Alphabétisation, un programme d’éducation visant à aider les jeunes à distinguer les vraies nouvelles de fausses nouvelles dans l’âge de militarisé des médias sociaux, les attaques contre les fausses nouvelles de problème au niveau du consommateur. Le Washington, DC à but non lucratif basée dit que, depuis les élections de 2016, il a été mise en service d’une hausse de la demande des enseignants à travers le monde. Récemment, il a reçu 1 million de dollars de subvention de Facebook pour l’aider à élargir ses programmes d’études. En aidant les enfants à parfaire leurs propres conneries, les détecteurs de la PNL, et des projets comme celui-ci, peut offrir notre meilleur espoir contre les fausses nouvelles.
Venmo Considère le Rendant plus dur pour Voir Ce que les Autres Gens achètent
Venmo est enfin, en quelque sorte, peut-être se débarrasser de l’API publique qui permet à quiconque de gratter Venmo achats à embarrasser les gens en ligne, rapports Julie Verhage:
Le débat à l’intérieur de PayPal a été déclenchée par les inquiétudes sur la vie privée de ses utilisateurs. Cet été, un chercheur a attiré l’attention sur Venmo, les paramètres de confidentialité par défaut pour le public, avec son analyse de plus de 200 millions de transactions sur la plate-forme. PayPal a dit qu’il donne la possibilité aux utilisateurs de partager uniquement avec des amis ou avec le bénéficiaire et peut ajuster ce pour chaque transaction.
Lance
Wickr a un nouveau plan pour esquivant internet bloque
Le chiffrés application de chat est en partenariat avec une société nommée Psiphon à occulter les origines de la circulation, mon collègue Russell Brandom rapports. Comme de plus en plus de pays cherchent à interdire les applications de chat, ce genre de chose pourrait devenir la plus probable.
NewsGuard Combats De Fausses Nouvelles Avec Des Êtres Humains, Pas Des Algorithmes
Steven Brill est un faux-actualités-les combats de l’entreprise a une extension Chrome que les taux les sites d’actualités sur la fiabilité, avec l’apport de ses propres journalistes. Issie Lapowsky:
De contrôler les sites qu’ils utilisent une liste de contrôle de neuf critères généralement désigner la fiabilité. De Sites qui ne sont pas clairement de l’étiquette de la publicité perdre des points, par exemple. Les Sites qui ont un ensemble cohérent de correction de la politique de gagner des points. Si vous installez NewsGuard et de naviguer sur Google, Bing, Facebook, ou Twitter, vous verrez soit un rouge ou vert icône à côté de chaque source d’information, un indicateur binaire de savoir si elle répond à NewsGuard normes. Passez la souris sur l’icône, et NewsGuard offre une “étiquette de la valeur nutritive,” point-par-point des descriptions de la façon dont il a marqué le site et des liens vers les bios de celui qui a marqué.
L’outil est conçu pour maximiser la transparence, dit Steve Brill, NewsGuard co-fondateur, mieux connu pour la fondation de la compagnie de câble la TÉLÉVISION de la Cour. “Nous essayons d’être le contraire d’un algorithme, dit-il. Brill a commencé NewsGuard avec Gordon Crovitz, ancien éditeur du Wall Street Journal.
Prend
Le new york times, ne devrait pas avoir compté fortement sur que Facebook et anti-réfugiés de l’étude.
Felix Salmon a de l’eau plus froide de jeter sur l’étude de Facebook en Allemagne:
Avec le recul, le Temps devrait avoir évité des termes comme “point de repère” et “couper le souffle”, et devraient probablement avoir évité de mentionner les résultats spécifiques à tous. Le livre blanc est intrigante, et c’était une bonne idée de l’utiliser comme un point de départ pour le journal de la chaussure en cuir de reporting. L’étude n’a pas, cependant, quelque chose à citer comme une importante avancée scientifique. Facebook délibérément fait qu’il est extrêmement difficile pour les chercheurs de l’extérieur de quantifier ses effets sur la société, ce qui signifie que le mieux qu’on puisse espérer est de reconstituer un puzzle de preuve suggestive. (Si la société serait juste de rendre les données disponibles, nous aimerions arrêter d’être forcé à estimer par imparfaite de Nutella-les procurations.) Mais à l’heure actuelle, pas d’une seule pièce de la recherche va être le genre d’arme que le Temps tente de transformer celle-ci en.
Pouvez Facebook, ou Quelqu’un, à Résoudre l’Internet Désinformation du Problème?
Farhad Manjoo est pessimiste sur les plates-formes d’efforts pour freiner la désinformation:
Envisager la question la plus pressante: Comment faire confiance devrait vous être que les prochaines élections de mi-mandat sera à l’abri du piratage et des opérations de propagande en ligne? La la réponse la plus probable: Personne ne sait pour sûr, mais probablement pas très confiant.
WhatsApp a un faux news de problèmes qui peuvent être résolus sans casser le chiffrement
Dans un brillant essai, Himanshu Gupta et Dure Taneja soutiennent que WhatsApp pourrait atténuer la propagation des canulars sur WhatsApp par l’identification au niveau de métadonnées. (Gupta travaillé à WhatsApp rival).)
Par conséquent, même si WhatsApp ne peuvent pas lire le contenu d’un message, il peut accéder à l’unique hachage cryptographique de message (qu’il utilise pour activer l’instant transfert), l’heure à laquelle le message a été envoyé, et d’autres métadonnées. Il est également possible de déterminer qui a envoyé un fichier particulier à qui. En bref, il permet de suivre un message du voyage sur sa plateforme (et de ce fait, de fausses nouvelles) et identifier l’expéditeur de ce message.
Si WhatsApp permet d’identifier un particulier d’un message de métadonnées précisément, il permet de marquer ce message comme “fausses nouvelles” après une modération du contenu. Il peut être soutenu que WhatsApp peut aussi, avec quelques modifications à son algorithme, d’identifier l’expéditeur d’origine d’une fausse nouvelle image, une vidéo ou un texte et, éventuellement, arrêter de que le contenu de la suite de la diffusion sur son réseau.
Je Veux Fermer La Session
Steve Rousseau dit des applications de réseaux sociaux ont changé la nature de l’amitié, de manière à lui faire sentir déprimé:
Il est de plus en plus le sentiment que si je ne suis pas participer à l’interminable conversation en ligne, je ne suis pas participer à mon amitiés plus. Ce qui a commencé comme un groupe de discussion afin d’organiser des promenades en vélo est maintenant un mème dépotoir entrecoupées de “nous devrions tous nous rencontrer et obtenir des bières un peu de temps.” (Nous avons pourtant de se rencontrer et d’obtenir des bières un peu de temps).
Ce n’est pas que la nature de l’amitié a changé, c’est que l’internet nous a fait croire que tout cela était nécessaire et bon.
Et enfin …
LinkedIn Message Générateur
Avez-vous jamais eu un terrible recruteur hauteur de LinkedIn? Maintenant, vous pouvez faire votre propre, grâce à cet incroyable / un terrible outil de Andrew Duberstein. Voici la mienne:
Salut Casey,
Super pompé de vous rencontrer! Mon employeur DeepCube, un de-centralisée, Enron, a juste soulevé 103 DogeCoin à la conception de l’avenir de la piraterie maritime.
Surpris par votre connaissance de l’A/B testing et d’hypercroissance, je pense que vous auriez du être un grand ajustement pour notre Maison de Thé Spécialiste. Prenons le café pour discuter de comment du jeudi?
Avoir un bon!
Drew
Comment jamais, Drew.
Parlez-moi
Envoyez-moi des conseils, des commentaires ou des questions: casey@theverge.com. Ou être à l’instar de T., le beau jeune homme qui s’est approché de moi à la Bouteille Bleue à San Francisco le jeudi de se présenter et de discuter de la dernière semaine de ce bulletin. Réunion lecteurs du bulletin dans la vraie vie a été une des grandes joies de l’écriture de L’Interface. Dire bonjour un jour!