Det har varit en stor vecka för berättelser om innehållet måtta. Förra fredagen, Radiolab publicerat en fascinerande episod om Facebook utvecklas metoden för att bestämma vad som blir kvar på plattformen. Avsnittet använt sig av en rad historiska debatter inom företaget för att belysa de många utmaningar som ett företag som söker för att reglera tal globalt.
På torsdag, Moderkort Jason Koebler och Joseph Cox skrivit sin egen historia av innehåll måtta på Facebook, men med ett öga vände sig till framtiden. Ritning på intervjuer med Facebook befattningshavare nuvarande och tidigare moderatorer, och akademiska forskare, Koebler och Cox anges för att definiera omfattningen av problemet och Facebook insatser för att linda sina armar runt det.
Det är en bit att krediter Facebook för tankeväckande arbete som det har gjort i ämnet, samtidigt som de uttrycker en djup skepsis till projektet som helhet. En passage halvvägs genom den bit som har hängt med mig:
Storleken är en sak Facebook är inte villig att ge upp. Och så Facebook innehåll måtta team har fått ett sisyfosarbete: Fixa röran som Facebook: s världsbild och affärsmodellen har skapat, utan att ändra världsbild eller affärsmodellen i sig.
“Att göra sina lager-och-handeln i gatuprostitution unvetted, gud-vet-vad-innehåll från bokstavligen alla på jorden, med vad agendor, ideologiska bents, politiska mål och försöker göra det hållbart — det är faktiskt nästan löjligt när man tänker på det på det sättet,” Roberts, professor på UCLA, berättade Moderkortet. “Vad de försöker göra är att lösa den mänskliga naturen i grunden.”
Facebook sannolikt inte skulle säga att det är ett försök att “lösa” den mänskliga naturen. Men det är sant att bolagets ansträngningar börjar alla från idén att det kan och bör ansluta alla på jorden — trots att de har lite kunskap om konsekvenserna av att göra så.
Verket drar nya uppmärksamma betydelsen Sheryl Sandberg har spelat i innehåll måtta tvister, rapporterar att Facebook är chief operating officer inte väga in på svåra samtal från tid till tid. (VD Mark Zuckerberg inte så bra.) Det undersöker svårigheterna i att behålla innehållet moderatorer, som har till uppgift att, med en ofta fruktansvärt jobb, och — på grund av en ständigt föränderlig uppsättning standarder — ständigt måste omskolas.
En hatpropaganda presentation som erhålls genom att Moderkortet har en lista över alla de senaste ändringarna till bild-däck, inklusive tillägg, borttagningar, och förtydliganden av vissa ämnen. I några månader, Facebook drivit ändringar i hate speech träning dokument flera gånger inom ett fönster av bara några dagar. I alla, Facebook fixade materialet över 20 gånger i en fem-månaders-period. Vissa politiska förändringar är liten nog att inte kräva någon form av omskolning, men andra, mer nyanserade förändringar behöver moderatorer kan omskolas och på den punkten. Vissa enskilda presentationer som erhålls genom Moderkortet sträcka till hundratals bilder, kliva in genom exempel och punktlistor på varför vissa delar av innehållet bör tas bort.
Mestadels, som Radiolab innan det, bit förmedlar den enorma utmaning. Reaktionen på nätet till stor del var skeptiska. (New York Max Läsa: “Alla dessa förmodade Nietzsche fans samlats i ena projektet för tediously att tillämpa en “konsekvent” uppsättning av regler för att alla samtal och mänskliga relationer. Lycka till!!!”)
Kanske framtida händelser kommer att komplicera Facebook: s projekt för att ansluta alla. Men om de inte gör det, jag återvända till tanken att bolaget bör fortsätta med Zuckerberg: s idé om en Högsta Domstol för innehållet måtta. Som jag sade tidigare denna vecka: slutligen, frågan om vad som hör hemma på Facebook inte kan beslutas endast av de personer som arbetar där.
Tyskland
Igår lovade jag att jag skulle låta dig veta om författarna av denna studie på Facebook och flykting våld i Tyskland kom tillbaka till mig. Min fråga var hur de skulle kunna stå för kronologi i sin studie: det verkade omöjligt, med tanke på de uppgifter som presenteras, att de kunde med säkerhet säga att inlägg på Facebook ledde till våld, snarare än tvärtom.
Jag hörde från en av författarna, Karsten Müller. Han gjorde två viktiga punkter. En studie tar smärtor att inte säga med säkerhet att det inte bevisar orsakssamband. Författarnas exakt linje är: “resultaten i detta avsnitt bör tolkas som rent suggestivt och gör det inte möjligt för kausala samband.”
Den andra punkten som vilar på en detaljerad beskrivning av enkäten är utarbetad metod, som bygger på att utveckla modeller av Facebook användning baserat på interaktioner på offentliga sidor, och sedan korrelera dem med fall av anti-flykting våld. Müller berättade för mig vad som gör författarna för att göra några påståenden om orsakssamband) är den studie som använder sig av internet avbrott för att avgöra när tyska kommuner hade mindre exponering till Facebook:
Som det visar sig, finner vi att korrelationen mellan interaktion av lokala sociala medier anal och ett mått av anti-flykting känslor på Facebook å ena sidan, och hatbrott på andra, verkar försvinna i veckor sådana avbrott förekommer. Ett diagram som visualiserar dessa resultat kan hittas i den nyaste versionen av papper, finns på SSRN (leta efter “kastas i papperskorgen scatter plot”). Om man vill hävda att sociala medier inte har någon förökningsmaterial effekt på hatbrott när spänningarna är redan hög (vilket är vad vi mäter), skulle ett behov av att förklara den medierande effekten av dessa avbrott.
Så hur kan du förklara att medla effekt? Tyler Cowen tar en spricka på det på sin blogg:
Även om internet eller Facebook avbrott har en automatisk effekt på attacker på något sätt, det är sannolikt att det visar att Facebook är ett kommunikationsmedium som används för att organisera sammankomster och attacker (som telefon en gång kan ha varit), och inte, som författarna upprepade gånger tyder på att Facebook är något som genererar och för att piska upp och kontrollera rasistiska åsikter över tid. Återigen, jämför en sådan möjlighet till bredare litteratur. Det är ett bra bevis på att antisemitiska våldet i hela tyska regioner som är ganska ihållande, med pogromer under den Svarta Döden förutsäga synagogan attacker under den Nazistiska tiden. Och det är meningen att vi anser att rasistiska känslor nedsjunka i passivitet helt enkelt eftersom de ligister kan inte komma åt Facebook för några dagar eller kanske en vecka?
Cowen inlägg är ändå värt att läsa i sin helhet. Som jag nämnde igår, mycket av förvirringen kring den tyska studien härrör från det faktum att de flesta av de berörda uppgifterna inte är tillgänglig för oss. Anonymiserade data, delade säkert med väl prövat akademiker, skulle sannolikt ge oss mycket närmare sanningen.
Demokrati
Google raderar konton med band till Iran på YouTube och andra webbplatser
Den Iranska inflytandet kampanj ojordade av FireEye och Facebook hade plankor på YouTube och Blogger också, Tony Personalen rapporter:
Google meddelade i torsdags att det raderas 58 konton med band till Iran på sin video plattform YouTube och andra platser, den senaste tecknet på att utländska agenter från hela världen i allt högre utsträckning söker att sprida desinformation på ett brett utbud av populära webbplatser.
Den nya upptag riktade 39 kanaler på YouTube, som hade mer än 13 000 visningar i Usa, samt 13 konton på sociala nätverk Google Plus och sex konton på Blogger, dess blogging plattform, sade företaget. Kent Walker, Googles senior vice ordförande för globala frågor, sade i en blogg postthat alla konton som hade band till den Islamiska Republiken av Iran Sänder, eller VAD, som är knuten till Irans ayatolla, och att de “förklädd deras anslutning till detta arbete.”
Hur FireEye Hjälpte Facebook en Plats Desinformation Kampanj
Kate Conger och Sheera Frenkel promenad oss igenom hur FireEye hittade den Iranska drift:
“Det började med en enda sociala medier-konto eller ett litet antal konton som driver denna politiska tema och innehåll som inte nödvändigtvis verkar i linje med de personas som de konton som hade antagits,” sade Mr Foster. Många av de falska konton, som utspillda över Facebook, Instagram, Twitter och Reddit, delat innehåll från Liberty Front Tryck.
Över två månader, Mr Foster och en liten grupp av analytiker kartlagt sambanden mellan konton och grävt fram mer av dem.
Försök till att Hacka av Väljare Databas Var ett Falskt Alarm, Demokratiska Partiet Säger
På onsdagen var jag som förde eder nyheten att det Demokratiska partiets Nationella Kommitté som potentiellt var en hacka mål. Det visar sig att de Michigan Demokratiska Partiet hade anlitat hackers för att simulera ett anfall.
Falska nyheter krig blir sofistikerade innan 2018 kongressvalet
Sara Fischer undersöker några av de sätt som desinformation utvecklas vidare av midterms:
Mer sofistikerad bot verktyg: Nya verktyg skapas för att hantera information på bloggen eller kommentera nivå på vardagliga webbplatser, säger Mike Marriott, forskare på Digitala Skuggor, en digital bevakningsföretag.
I en ny rapport, Marriott förklarar att verktyg som BotMasterLabs och ZennoStore hävdar att främja innehåll över hundratusentals plattformar, inklusive forum, bloggar, anslagstavlor, men i verkligheten, som de kontrollerar ett stort antal robotar som är programmerade att lägga på specifika typer av forum om olika ämnen.
Memphis polisen använt falska Facebook-konto för att övervaka Black Liv Roll, trial visar
Det är inte bara Ryssar och Iranierna att delta i “samordnad oäkta beteende” — det är nu också en strategi för poliser, Antonia Noori Fazan rapporter:
Bob Smith sa att han bodde i Oxford, Miss. På Facebook att han “gillade” sidor i Svart Liv Roll, Sen. Bernie Sanders (jag-Vt.), Memphis Röster För Palestina, Mid-South Fred och Rättvisa, och komiker Rickey Smiley, enligt bilder som erhålls genom Överklagande. “Jag är inte en cop,” skrev han i ett privat Facebook-meddelande till en aktivist, och tillade att han skulle vara intresserad av att delta i protester i Memphis området, men det var lite av en enhet. I stället för en profil bild, han laddat upp en bild av en Guy Fawkes-mask.
Det beror på att “Bob Smith” var inte en person av färg, så som han hade hävdat online. På måndag, Sgt. Tim Reynolds, en vit detektiv med Memphis Police Department ‘ s Office of Homeland Security, har vittnat i den federala domstolen att han hade skapat konto och friended hundratals aktivister, enligt the Commercial Appeal.
Facebook Förbud Quiz App Som Fångade Data över Fyra Miljoner Användare
Deepa Seetharaman får ett uttalande från killen vars personlighet quiz app blev bannad av Facebook på onsdag:
En av forskarna bakom appen, David Stillwell, kallas förbudet “meningslösa och rent av PR-skäl.” Mr Stillwell sade resultaten från myPersonality app användes för att publicera flera social-vetenskap forskningsrapporter under de senaste åren och att han och hans forskning partner var inbjuden till Facebook ‘ s kontor i 2011 och 2015 för att diskutera deras arbete.
“Det är därför märkligt att Facebook ska nu plötsligt påstår sig ha varit ovetande om myPersonality forskning och att tro att data kan ha missbrukats,” Mr Stillwell sade i ett uttalande.
Ryska Troll Är Att Sprida Förvirring Om Vaccinsäkerhet På Twitter
Här är en berättelse från Azeen Ghorayshi som tar Twitter är konstant prata av “plattform hälsa” och gör det bokstavliga:
Konton som drivs av den ryska regeringen-stödda Internet Research Agency twittrade om vacciner ungefär 22 gånger oftare än genomsnittet Twitter-användare, fann studien. Tweets föll ungefär lika mycket i pro-vaccin och anti-vaccin kategorier.
“De verkar inte ha en särskild dagordning som gäller vacciner — snarare att de verkar ha en önskan att öka båda sidor i debatten,” sade David Broniatowski, biträdande professor i industriell utveckling vid George Washington University och huvudförfattare till studien. “Det är förenligt med denna idé för att sprida osämja.”
Tech-Jättar Blir Försvarare av Demokrati. Vad Händer Nu?
Issie Lapowsky frågar varför det verkar som tech-företag gör mer för att skydda nationen från it-angrepp än regeringen:
Justitiedepartementet har utfärdats svidande åtal för rysk hackare och troll detta år, men utan internationell jurisdiktion de är främst symbolisk. Vita Huset nu sin topp it-politiska ståndpunkt efter avgång före detta it-säkerhet tsar Tom Bossert i April. Den Globala Engagemang Center, en State Department initiativ som var riktad till counter ryska propaganda, har varit svalt för att få resurser till mycket av det senaste året. Och det är någons gissa vem som egentligen är ansvarig för att se till att information får delas med rätt personer inom den offentliga och privata sektorn.
“Varje byrå är mindre att göra sin egen grej. Ingen är ansvarig, säger Brett Bruen, före detta Vita Huset chef för globalt engagemang under President Obama. “Vi fortsätter att ha ett mycket skarpt avgränsade process inom regeringen, än mindre föra den privata sektorn till bordet för att försöka lista ut det tillsammans.”
Misstänkt som livshotande knivhuggen svart man i Pennsylvania ‘gillade’ nästan 50 rasistiska alt-höger Facebook-sidor
Det misstänkta mordet på en svart man i Pennsylvania var genomsyrad av vit nationalism på Facebook, rapporter Alex Ändra:
På Facebook, Rocco “gillade” nästan 50 sidor att trafiken i memer och slang gynnas av alt-höger och bredare vit nationalistisk rörelse.
Rocco prenumererar på sidor som “Alt Högra Meme Magi” “Smash Kulturell Marxism” och “Lazer-Strålade Memer med Fashy Teman”, samt en variation av motiverande talare och andra sidor dedikerade till body building. Rocco prenumererar på sidan av Identitet Dixie, en SPLC-särskilt neo-Confederate hat grupp.
Någon annanstans
Apple tar bort Facebook Onavo app från App Store
Onavo gör en VPN-program som användare kan ladda ner för att surfa på webben mer privat. Men Facebook, som köpte Onavo i 2013, har använt det som ett tidigt varningssystem för att se vilket konkurrenskraftigt apps kan vara att få dragkraft. (En tidigare Facebooker berättade för mig att de läskigaste apps växte “lågt och långsamt” — liten i absoluta tal, men stadigt, och samtidigt behålla sina befintliga användare.) Nu är Apple, som har gjort att klappa sig själv på ryggen över frågor som rör integritet en viktig corporate meddelanden strategi, har pressade Facebook för att ta Onavo ut i App Store. Det kommer att förbli på Android, men det är fortfarande ett slag för Facebook.
Facebook poaches nya gemensamma organisationen av marknaden Antonio Lucio från HP
Facebook har en ny chef för marknadsföring för att ersätta Gary Briggs.
Facebook företagsledare Dan rosenblad
Som Peter Kafka anteckningar här, detta är den andra big-deal Facebook avresa den här sommaren, efter att chefen för politik och kommunikation Elliot Schrage. Rose, som gått med i Facebook 2016, övervakade affärsutveckling och ledde företagets förvärv av Instagram, bland andra saker.
Nyheter läs-och Skrivkunnighet-Projektet är att lära barn att stoppa falska nyheter
Mark Sullivan och Tim Bajarin profil Nyheter Literacy Project:
Nyheter Literacy Project, ett utbildningsprogram som syftar till att hjälpa unga människor att skilja verkliga nyheter från falska nyheter i en ålder av weaponized sociala medier, attacker falska nyheter problemet i konsumentledet. Washington, DC-baserad ideell säger att eftersom 2016 val, det har varit fielding ett uppsving i efterfrågan från lärare runt om i världen. Nyligen fick en $1 miljoner i bidrag från Facebook för att bidra till att utöka sina läroplaner. Genom att hjälpa barnen att finslipa sina egna skitsnack detektorer, NLP, och liknande projekt, kan erbjuda våra bästa hopp mot falska nyheter.
Venmo Anser Gör det Svårare att Se Vad Andra Människor att Köpa
Venmo är äntligen typ, kanske bli av med den offentliga API som låter vem som helst skrapa Venmo inköp för att genera människor på nätet, rapporter Julie Verhage:
Debatten inom PayPal utlöstes av oro för den personliga integriteten av dess användare. Denna sommar, en forskare uppmärksammade Venmo sekretessinställningar, som standard till allmänheten, med sin analys av mer än 200 miljoner transaktioner på plattformen. PayPal har sagt att det ger användarna möjlighet att bara dela med vänner eller med mottagaren och kan anpassa detta för varje enskild transaktion.
Lanserar
Wickr har en ny plan för att ducka internet block
Krypterade chatt-appen är att samarbeta med ett företag som heter Psiphon för att dölja ursprunget av trafik, min kollega Russell Brandom rapporter. När fler länder försöker förbjuda chat program, denna typ av sak kan bli mer sannolikt.
NewsGuard Slagsmål Falska Nyheter Med Människor, Inte Algoritmer
Steven Brill ‘ s fake-nyheter-fighting företaget har ett Chrome-tillägg som priser nyhetssidor på pålitlighet, med ingång från sina egna journalister. Issie Lapowsky:
För att kontrollera webbplatser, men de använder en checklista av nio kriterier som vanligtvis betecknar trovärdighet. Webbplatser som inte tydligt märka reklam förlorar poäng, till exempel. Områden som har en sammanhängande korrigering politik få poäng. Om du installerar NewsGuard och bläddra i Google, Bing, Facebook, eller Twitter, kommer du att se antingen en röd eller grön ikon bredvid varje nyhetskälla en binär indikator på om det uppfyller NewsGuard: s normer. För du muspekaren över ikonen, och NewsGuard erbjuder ett komplett “etikett” med punkt-för-punkt beskrivningar av hur det fått plats, och länkar till bios för den som fått dem.
Verktyget är utformat för att maximera öppenheten, säger Steve Slätvar, NewsGuard är en av grundarna, mest känd för grundandet av den kabel företaget till Domstol TV. “Vi försöker att vara motsatsen till en algoritm, säger han. Brill började NewsGuard med Gordon Crovitz, före detta redaktör för The Wall Street Journal.
Tar
Den NYTimes inte borde ha litat så mycket på att Facebook och anti-flykting-studie.
Felix Salmon har mer kallt vatten för att kasta på studier av Facebook i Tyskland:
Med facit i hand, de Gånger borde ha undvikit termer som “landmärke” och “häpnadsväckande”, och bör nog ha kunnat undvika att nämna specifika resultat alls. Vitboken är spännande, och det var en bra idé att använda det som en utgångspunkt för tidningens sko-läder rapportering. Studien var dock inte något att citera som ett betydande vetenskapliga framsteg. Facebook medvetet gör det extremt svårt för externa forskare för att kvantifiera de effekter på samhället, vilket innebär att det bästa vi kan hoppas på är att sätta ihop ett pussel av suggestiva bevis. (Om företaget bara skulle göra sin data tillgänglig, vi skulle sluta tvingas att uppskatta via ofullkomliga Nutella-ombud.) Men i dagsläget är det inte en bit av forskning kommer att vara typ av illusionen av att tiden försöker att stänga av denna och en till.
Kan Facebook, eller Vem som helst, Lösa på Internet är Desinformation Problem?
Farhad Manjoo är pessimistisk om plattformar i arbetet med att stävja felaktig information:
Anser att den mest angelägna frågan: Hur säker ska man vara för att det kommande kongressvalet kommer att vara säker från hackare och propaganda verksamhet online? Det mest troliga svaret: Ingen vet säkert, men förmodligen inte helt säker.
WhatsApp har en falska nyheter problemet—som kan vara fasta utan att bryta kryptering
I en smart uppsats, Himanshu Gupta och Hårda Taneja påstå att WhatsApp kunde måttlig spridning av bluffar på WhatsApp genom att identifiera dem på metadata nivå. (Gupta tidigare arbetat på WhatsApp rival WeChat.)
Därför, även om WhatsApp kan faktiskt inte läsa innehållet i ett meddelande, kan få tillgång till unik kryptografisk hash av meddelandet (som man använder för att aktivera instant och spedition), den tid som meddelandet skickades, och andra metadata. Det kan också potentiellt avgöra vem som skickade en viss fil till vem. Kort sagt, det kan spåra ett meddelande resa på sin plattform (och därmed falska nyheter) och identifiera avsändaren av detta budskap.
Om WhatsApp kan identifiera ett särskilt meddelande metadata exakt, det kan märka att budskap som “falska nyheter” efter lämpligt innehåll måtta. Det kan hävdas att WhatsApp kan också, med några justeringar i sin algoritm, identifiera den ursprungliga avsändaren av en falsk nyheter bild, video eller text och eventuellt också sluta att innehåll från sprids vidare på sitt nätverk.
Jag Vill Logga Ut
Steve Rousseau menar att sociala appar har ändrat karaktär av vänskap, på ett sätt som får honom att känna sig deprimerad:
Det är allt känner det som om jag inte deltar i den ändlösa online konversation, kommer jag inte att delta i min vänskap längre. Vad som började som en grupp chatt för att ordna cykelturer är nu en meme dumpningsplats varvat med “vi ska alla träffas och få öl någon gång.” (Vi har ännu att möta upp och få öl någon gång).
Det är inte så att den typ av vänskap har förändrats, det är att det internet som fick oss att tro att allt detta var nödvändigt och bra.
Och slutligen …
LinkedIn Meddelande Generator
Har du någonsin fått en fruktansvärd rekryterare planen från LinkedIn? Nu kan du göra din egen, tack vare denna fantastiska / hemska verktyg från Andrew Duberstein. Här blev min:
Hej Casey,
Super-pumpas att träffa dig! Min arbetsgivare DeepCube, en de-centraliserad Enron, har bara tagit upp 103 DogeCoin att utforma framtiden för sjöröveri.
Förvånad över din kunskap om A/B-testning och hypergrowth, jag tror du skulle vara en bra passform för våra In-House Kaffe-och Specialist. Låt oss ta kaffe för att diskutera—hur är torsdag?
Ha en bra en!
Drew
Vad sägs om aldrig, Drew.
Tala till mig
Skicka mig tips, kommentarer eller frågor: casey@theverge.com. Eller vara som T., trevlig ung man som närmade sig mig på Blå Flaska i San Francisco på torsdag för att presentera sig och diskutera den senaste veckan av denna mycket nyhetsbrev. Mötet nyhetsbrev läsare i verkliga livet har varit en av de stora glädjeämnen i skrivande Gränssnitt. Säga hej någon gång!