Det har vært en stor uke for tales av innhold moderering. Sist fredag, Radiolab skrevet en fascinerende episode om Facebook er i utvikling tilnærming til å bestemme hva som skal være på plattformen. Episoden brukt en rekke historiske debatter i selskapet for å belyse de mange utfordringer man står overfor et selskap som søker å regulere tale globalt.
På torsdag, Hovedkort er Jason Koebler og Joseph Cox lagt ut sin egen historie av innhold moderasjon på Facebook, men med blikket vendt mot fremtiden. Tegning på intervjuer med Facebook ansatte, nåværende og tidligere moderatorer, og akademiske forskere, Koebler og Cox satt ut for å definere omfanget av problemet og Facebook innsats for å vikle armene rundt det.
Det er et stykke som studiepoeng Facebook for gjennomtenkt arbeid det har gjort på temaet, og samtidig uttrykke en dyp skepsis for prosjektet totalt sett. En passasje midtveis i stykket har bodd med meg:
Størrelse er den ene tingen Facebook er ikke villig til å gi opp. Og så Facebook er innholdet moderering team har fått en Sisyphean oppgave: Fastsette rotet Facebook ‘ s verdensbilde og en forretningsmodell som har skapt den, uten å endre livssyn eller forretningsmodell i seg selv.
“Gjør sitt lager-og-handel i anmoder unvetted, gud-vet-hva-innhold fra bokstavelig talt hvem som helst på jorden, med alt agendaer, ideologiske bents, politiske mål og prøver å gjøre det bærekraftig — det er faktisk nesten latterlig når du tenker på det på den måten,” Roberts, UCLA professor, fortalte Hovedkort. “Det de prøver å gjøre er å løse menneskelige natur fundamentalt.”
Facebook sannsynlig ville ikke si det er forsøk på å “løse” den menneskelige natur. Men det er sant at selskapets arbeid med alle begynner fra forestillingen om at det kan og bør koble alle på jorden — til tross for å ha lite sikkert om konsekvensene av å gjøre det.
Stykket trekker ny oppmerksomhet til den rolle Sheryl Sandberg har spilt i innhold moderering tvister, rapportering som Facebook ‘ s chief operating officer har synspunkter på vanskelige samtaler fra tid til annen. (CEO Mark Zuckerberg har så godt.) Det undersøker problemer med å beholde innhold moderatorer, som har til oppgave med en ofte forferdelig jobb, og på grunn av en stadig utvikling sett med standarder — må hele tiden være retrained.
En hatefulle ytringer presentasjon innhentet av Hovedkort har en liste over alle de siste endringene til lysbildet dekk, inkludert tilgang, flytting, og avklaringer av enkelte emner. I noen måneder, Facebook presset endringer til hatefulle ytringer opplæring dokument flere ganger i løpet av et vindu av bare et par dager. I alle, Facebook forskjøvet materialet over 20 ganger på en fem måneders periode. Noen endringer i retningslinjene er liten nok til å ikke kreve noen form for omskolering, men også andre, mer nyansert endringer som må moderatorer å være retrained på det tidspunktet. Noen individuelle presentasjoner innhentet av Hovedkort strekke seg inn i hundrevis av sider, gå gjennom eksempler og punktlister på hvorfor bestemte deler av innholdet skal være fjernet.
For det meste, som Radiolab før det stykket formidler det uhyrlige i utfordringen. Reaksjonen online i stor grad var skeptisk. (New York, Maks Les: “Alle disse antatte Nietzsche fans sluttet seg sammen i den samlende prosjekt av tediously å bruke en “konsistent” sett av regler til alle diskurs og menneskelige relasjoner. Lykke til!!!”)
Kanskje fremtidige hendelser vil komplisere Facebook prosjekt for å koble alle. Men hvis de ikke gjør det, er jeg tilbake til ideen om at selskapet burde fortsette med Zuckerberg oppfatning av en Høyesterett for innhold moderering. Som jeg sa tidligere denne uken: til slutt, spørsmålet om hva som hører hjemme på Facebook, kan ikke avgjøres kun av folk som jobber der.
Tyskland
I går, jeg lovet jeg skulle la deg få vite om forfatterne av denne studien på Facebook og flyktning vold i Tyskland kom tilbake til meg. Mitt spørsmål var hvordan de kunne konto for kronologi i sin studie: det virket umulig, gitt de data som presenteres, at de ikke kunne si med sikkerhet at innlegg på Facebook som førte til vold, heller enn den andre veien rundt.
Jeg har hørt fra en av forfatterne, Karsten Müller. Han laget to viktige poeng. En, tar studien smerter ikke å si med sikkerhet at det beviser kausalitet. Forfatterne ” nøyaktig linje er: “resultatene i denne delen skal tolkes som rent tankevekkende og ikke tillate for kausal inferens.”
Det andre punktet hviler på en detaljert beskrivelse av undersøkelsen er omfattende metodologi, som baserer seg på å utvikle modeller av Facebook bruk, basert på kommunikasjon på offentlige sider, og deretter sammenholde dem med forekomster av anti-flyktning vold. Müller fortalte meg hva som lar forfatterne å gjøre noen krav til årsakssammenheng er undersøkelsen er bruk av internett strømbrudd å bestemme når tyske kommuner hadde mindre eksponering mot Facebook:
Som det viser seg, finner vi at korrelasjonen mellom interaksjon av lokale sosiale medier penetrasjon og en måling av anti-flyktning følelser på Facebook på den ene siden, og hatkriminalitet på den andre, ser ut til å forsvinne i uker slike avbrudd kan forekomme. En graf som visualiserer disse resultatene kan bli funnet i den nyeste versjonen av papir, tilgjengelig på SSRN (se etter “binned scatter-plot”). Hvis man ønsker å hevde at sosiale medier ikke har noen forplanter effekt på hatkriminalitet når spenningene er allerede høy (som er det vi måler), ville man trenger å forklare den medierende effekt av disse utfallene.
Så hvordan kan du forklare at medierende effekt? Tyler Cowen tar sjansen på det på bloggen sin:
Selv om internett eller Facebook strømbrudd har en prediktiv effekt på angrep på noen måte, er det sannsynlig viser at Facebook er et kommunikasjons-mediet som brukes til å organisere samlinger og angrep (som telefon en gang kan ha vært), og ikke, som forfatterne flere ganger tyder på at Facebook er en måte å generere og pisket opp og kontrollere rasistiske holdninger over tid. Igjen, kan du sammenligne en slik mulighet til bredere litteratur. Det er god dokumentasjon på at anti-semittiske vold på tvers av tyske regionene er ganske fast, med pogromene under svartedauden å forutsi synagogen angrep under Nazi-tiden. Og vi er ment til å tro at rasistiske følelser synke ned i passivitet rett og slett fordi kjeltringer ikke tilgang til Facebook for et par dager eller kanskje en uke?
Cowen er innlegget er fortsatt verdt å lese i sin helhet. Som jeg nevnte i går, mye av forvirringen rundt den tyske studien stammer fra det faktum at de fleste av de relevante data ikke er tilgjengelig for oss. Anonymiserte data, felles sikkert med godt utvalgte akademikere, vil trolig bringe oss mye nærmere sannheten.
Demokrati
Google sletter kontoene med bånd til Iran på YouTube og andre nettsteder
Den Iranske innflytelsen kampanjen avdekket av FireEye og Facebook hadde planker på YouTube og Blogger, samt Tony Romm rapporter:
Google annonserte torsdag at det slettes 58 kontoer med bånd til Iran på sin video plattform YouTube og andre nettsteder, den nyeste tegn på at utenlandske agenter fra hele verden i stadig større grad søke å spre desinformasjon på et bredt utvalg av populære nettsteder.
Den nye flytting målrettet 39-tv på YouTube, som hadde mer enn 13 000 visninger i Usa, så vel som 13-kontoer på det sosiale nettverket Google Plus og seks kontoer på Blogger, sin blogging plattform, selskapet sa. Kent Walker, Google ‘ s senior vice president of global affairs, sa i en blogg postthat hver av kontoene hadde bånd til den Islamske Republikken Iran Kringkasting, eller hvilke planer som er knyttet til irans ayatollah, og at de “forkledd deres tilknytning til dette arbeidet.”
Hvordan FireEye Hjalp Facebook øye på en Desinformasjon Kampanje
Kate havål titter og Sheera Frenkel spasertur oss gjennom hvordan FireEye funnet den Iranske drift:
“Det startet med en enkel sosiale medier, eller et lite sett av kontoer som ble skyve denne politiske tema innhold som ikke nødvendigvis synes i tråd med personas at regnskapet hadde vedtatt,” sa Mr. Foster. Mange av de falske kontoer, som er spredt over Facebook, Instagram, Twitter og Reddit, felles innhold fra Liberty Trykk Foran.
Over to måneder, Mr. Foster og en liten gruppe analytikere kartlagt sammenhengen mellom regnskap og avdekket flere av dem.
Forsøk på Hacking av Velgernes Database Var en Falsk Alarm, Demokratiske Partiet Sier
På onsdag tok jeg deg nyheten om at den Demokratiske Nasjonale Komiteen var potensielt en hacking mål. Det viser seg at Michigan Demokratiske Partiet hadde leid hackere til å simulere et angrep.
Falske nyheter krigen blir sofistikert før 2018 midterm elections
Sara Fischer undersøker noen av de måter som feilinformasjon utvikler seg i forkant av mellomvalgene:
Mer sofistikerte bot verktøy: Nye verktøy blir opprettet for å manipulere informasjon på bloggen eller kommentar nivå på hverdagen nettsteder, sier Mike Marriott, forsker ved Digital Skygger, en digital sikkerhetsselskap.
I en ny rapport, Marriott forklarer at verktøy som BotMasterLabs og ZennoStore hevder å fremme innhold på tvers av hundrevis av tusenvis av plattformer, inkludert fora, blogger og oppslagstavler, men i virkeligheten, de kontrollerer et stort antall av boter som er programmert til å legge ut på en spesifikk type fora på ulike emner.
Memphis politiet brukt falske Facebook-konto for å overvåke Svart Liv Spørsmål, test avslører
Det er ikke bare Russere og Iranere å engasjere seg i “samordnet inautentisk atferd” — det er nå også en strategi for politiet, Antonia Noori Fazan rapporter:
Bob Smith sa at han bodde i Oxford, gå Glipp av. På Facebook, han “likte” sider for Svart Liv Saken, Senatoren Bernie Sanders (jeg-Vt.), Memphis Stemmer For Palestina -, Midt -, Sør for Fred og Rettferdighet, og komiker Rickey Smiley, i henhold til bilder oppnås ved Anke. “Jeg er ikke en politimann,” skrev han i en privat Facebook-melding til en aktivist, og legger til at han ville være interessert i å delta på demonstrasjoner i Memphis-området, men det var litt av en kjøretur. I stedet for et profilbilde, han lastet opp en illustrasjon av en Guy Fawkes-maske.
Det er fordi “Bob Smith” var ikke en person av farge, som han hadde hevdet online. På mandag, Sgt. Timothy Reynolds, en hvit detektiv med den Memphis Police Department ‘ s Office of Homeland Security, vitnet i føderal domstol at han hadde opprettet kontoen og friended hundrevis av aktivister, ifølge Kommersiell Appell.
Facebook Forbud Quiz-App Som Fanget Data av Fire Millioner Brukere
Deepa Seetharaman får en uttalelse fra den fyren som har personlighet quiz-app fikk utestengt av Facebook på onsdag:
En av forskerne bak appen, David Stillwell, kalt forbudet “nonsens og rent for PR grunner.” Mr. Stillwell sa funnene fra myPersonality app ble brukt til å publisere flere sosiale-science research papers i de senere år, og at han og hans forskning partner ble invitert til Facebook ‘ s kontorer i 2011 og 2015 for å diskutere sitt arbeid.
“Det er derfor merkelig at Facebook plutselig skal nå bekjenner seg til å ha vært uvitende om den myPersonality forskning, og til å tro at data kan ha blitt misbrukt,” Mr. Stillwell sa i en uttalelse.
Russiske Troll Er Å Spre Forvirring Om Vaksine Sikkerhet På Twitter
Her er en historie fra Azeen Ghorayshi som tar Twitter er konstant snakke om “plattform helse” og gjør det bokstavelig:
Kontoer drevet av den russiske regjeringen støttet Internet Research Agency twitret om vaksiner ca 22 ganger oftere enn gjennomsnittet Twitter-bruker, studie fant. Tweets falt omtrent like inn i pro-vaksine og anti-vaksine kategorier.
“Det virker som de ikke har en bestemt agenda om vaksiner — snarere synes de å ha et ønske om å øke begge sider av debatten,” sa David Broniatowski, assistant professor of engineering ved George Washington University og hovedforfatter av studien. “Det er i samsvar med denne ideen om å spre splid.”
Tech-Gigantene Blir Forsvarere av Demokratiet. Hva Nå?
Issie Lapowsky spør hvorfor det ser ut til at tech selskaper gjør mer for å beskytte nasjonen fra nettangrep enn regjeringen:
Justisdepartementet har utstedt bitende tiltale av russiske hackere og troll dette året, men uten internasjonal jurisdiksjon de er i stor grad symbolsk. Det Hvite Hus axed sin topp cyber politiske posisjon etter avgang av tidligere cybersecurity tsaren Tom Bossert i April. Den Globale Engasjement Center, en State Department initiativ som ble rettet mot å motvirke russisk propaganda, har blitt sultet for ressurser for mye av det siste året. Og det er noen gjette hvem, nøyaktig, er ansvarlig for å sørge for at informasjon blir delt med de rette personene på tvers av offentlig og privat sektor.
“Hver etat er av å gjøre sine egne ting. Ingen er ansvarlig, sier Brett Bruen, tidligere White House direktør for global engasjement under President Obama. “Vi fortsetter å ha en svært siloed prosessen i regjeringen, la alene for å bringe den private sektor til bordet for å prøve å finne ut av dette sammen.”
Mistenker som dødelig knivstukket svart mann i Pennsylvania ‘likte’ nesten 50 rasistiske alt-rett Facebook-sider
Den mistenkte i drapet på en svart mann i Pennsylvania var gjennomsyret av hvit nasjonalisme på Facebook, rapporter Alex Endre:
På Facebook, Rocco “likte” nesten 50 sider som trafikk i memer og slang foretrukket av alt-høyre og bredere hvit nasjonalistiske bevegelsen.
Rocco abonnerer på sider som “Alt-Høyre Meme Magi,” “Smash Kulturell Marxisme” og “Lazer-Strålte Memer med Fashy Temaer, samt en spredning av motiverende høyttalere og andre sider som er dedikert til kroppen bygningen. Rocco abonnere på siden av Identitet Dixie, en SPLC-eget neo-Konfødererte hater gruppe.
Andre steder
Apple fjerner Facebook Onavo app fra App Store
Onavo gjør deg en VPN-app, som brukerne kan laste ned for å bla gjennom nettet på en mer privat. Men Facebook, som kjøpte Onavo i 2013, og har brukt det som et tidlig varslingssystem for å se hvilke konkurrerende apper, kan det være få trekkraft. (En tidligere Facebooker fortalte meg at det skumleste apps vokste “low and slow” — små i absolutte tall, men jevnt og trutt, og samtidig beholde sine eksisterende kundemasse.) Nå er Apple, som har gjort klappe seg selv på ryggen over personvern en nøkkel bedriftens meldinger strategi, har presset Facebook for å ta Onavo ut av App Store. Det vil være på Android, men det er fortsatt et slag for Facebook.
Facebook poaches nye MARKEDSDIREKTØREN Antonio Lucio fra HP
Facebook har en ny leder av marketing å erstatte Gary Briggs.
Facebook business executive Dan Rose blader
Som Peter Kafka notater her, dette er den andre store avtalen Facebook avreise denne sommeren, etter at leder for politikk og kommunikasjon Elliot Schrage. Rose, som sluttet Facebook i 2016, tilsyn med forretningsutvikling og ledet selskapets oppkjøp av Instagram, blant andre ting.
Nyheter Literacy Prosjektet er å lære barna å stoppe falske nyheter
Mark Sullivan og Tim Bajarin profil Nyheter Literacy Prosjekt:
Nyheter Literacy-Prosjektet, som er et utviklingsprogram som tar sikte på å hjelpe unge mennesker skille ekte nyheter fra falske nyheter i en alder av militær versjon av sosiale medier, angrep den falske nyheter problem på forbrukermarkedet. Washington, D.C.-basert nonprofit sier at siden 2016 valg, det har vært fielding en økning i etterspørsel fra lærere over hele verden. Nylig, den fikk en $1 million i tilskudd fra Facebook å bidra til å utvide sine læreplaner. Ved å hjelpe barna øver opp sine egne tull detektorer, NLP, og prosjekter som det kan tilby vår beste håp mot falske nyheter.
Venmo Vurderer å Gjøre det Vanskeligere å Se Hva Andre Kjøper
Venmo er endelig, type, kanskje til og med å bli kvitt public API som lar hvem som helst skrape Venmo innkjøp for å fornærme folk på nettet, rapporter Julie Verhage:
Debatten inne PayPal ble satt i gang av bekymringer for personvernet til sine brukere. Denne sommeren, en forsker trakk oppmerksomhet til Venmo personverninnstillingene, som standard til offentlige, med hennes analyse av mer enn 200 millioner transaksjoner på plattformen. PayPal har sagt det gir brukerne muligheten til å bare dele med venner eller med mottakeren, og kan justere dette for hver transaksjon.
Lanserer
Wickr har en ny plan for å unnvike internett-blokker
Den krypterte chat-appen samarbeider med en bedrift som heter Psiphon til å skjule opprinnelsen til trafikk, min kollega Russell Brandom rapporter. Som flere land søker å forby chat apps, denne type ting kan bli mer sannsynlig.
NewsGuard Kamper Falske Nyheter Med Mennesker, Ikke Algoritmer
Steven Brill er falske-nyheter-kampene selskapet har en Chrome-utvidelse som priser nyhetssider på troverdighet, med innspill fra sine egne journalister. Issie Lapowsky:
Vet nettsteder, og de bruker en sjekkliste over ni kriterier som vanligvis betegne troverdighet. Nettsteder som ikke klart å merke reklame mister poeng, for eksempel. Nettsteder som har en samlet korreksjon for personvern få poeng. Hvis du installerer NewsGuard og søke i Google, Bing, Facebook eller Twitter, vil du se enten røde eller grønne ikonet ved siden av hver nyheter kilde, en binær indikator på om det oppfyller NewsGuard standarder. Hold markøren over ikonet, og NewsGuard tilbyr et komplett “ernæring etiketten,” med punkt-til-punkt-beskrivelser av hvordan det scoret nettstedet, og lenker til bios på den som scoret dem.
Verktøyet er designet for å maksimere åpenhet, sier Steve Brill, NewsGuard grunnlegger, best kjent for opprettelsen av kabel selskapet Court-TV. “Vi prøver å være det motsatte av en algoritme,” sier han. Brill i gang NewsGuard med Gordon Crovitz, tidligere utgiver av The Wall Street Journal.
Tar
Den NYTimes bør ikke ha lettelse opp så kraftig på at Facebook og anti-flyktning-studie.
Felix Laks har mer kaldt vann til å kaste på studiet av Facebook i Tyskland:
Med etterpåklokskap, Ganger burde ha unngått begreper som “landemerke” og “fantastisk”, og bør nok ha unngått å nevne konkrete resultater i det hele tatt. Den hvite papiret er spennende, og det var en god idé å bruke det som et utgangspunkt for avisens sko-skinn-rapportering. Studien var imidlertid ikke noe å sitere som en betydelig vitenskapelig forhånd. Facebook bevisst gjør det svært vanskelig for eksterne forskere for å kvantifisere virkningene på samfunnet, noe som betyr at det beste vi kan håpe på er å sette sammen et puslespill av tankevekkende bevis. (Hvis selskapet ville bare gjøre sine data tilgjengelig, vil vi slutte å være tvunget til å anslå via ufullkomne Nutella-proxyer.) Men slik ting nå står, uten en bit av forskning kommer til å være den type smoking gun at tiden forsøker å gjøre dette til.
Kan Facebook, eller Noen, Løse Internett er Feilinformasjon Problemet?
Farhad Manjoo er pessimistisk om plattformene’ innsats for å dempe feilinformasjon:
Vurdere den mest presserende spørsmålet: Hvor sikker bør du være at den kommer midterm-valget vil være trygg mot hacking og propaganda virksomhet på nettet? Det mest sannsynlige svaret: Ingen vet sikkert, men sannsynligvis ikke veldig trygg.
WhatsApp har en falsk nyheter problem som kan løses uten å bryte kryptering
I en smart essay, Himanshu Gupta og Tøffe Taneja hevde at WhatsApp kunne moderat spredning av svindel på WhatsApp ved å identifisere dem på metadata-nivå. (Gupta tidligere jobbet på WhatsApp rival WeChat.)
Derfor, selv om WhatsApp kan faktisk ikke lese innholdet i en melding, det kan få tilgang til unike kryptografiske hash av meldingen (som det bruker å aktivere instant videresending), tidspunktet meldingen ble sendt, og andre metadata. Det kan også potensielt finne ut hvem som har sendt en bestemt fil til hvem. Kort sagt, det kan spore en melding reise på sin plattform (og dermed falske nyheter) og identifisere opprinnelsen på denne meldingen.
Hvis WhatsApp kan identifisere et bestemt en melding metadata-nettopp, det kan merke meldingen som “falske nyheter” etter at du har innhold som passer for moderasjon. Det kan argumenteres for at WhatsApp kan også, med noen tilpasninger til sin algoritme, identifisere den opprinnelige avsenderen av en falsk nyheter bilde, video eller tekst og potensielt også slutte at innholdet videre spredning på sitt nettverk.
Jeg Ønsker Å Logge Av
Steve Rousseau sier sosiale programmer har endret innholdet i vennskap, på måter som vil gjøre ham føler deg deprimert:
Det er stadig følelsen som om jeg ikke deltar i det uendelige online chat-samtale, jeg er ikke deltar i mine vennskap lenger. Det som startet ut som en gruppe chat for å organisere sykkel ritt er nå et meme dumpingplass ispedd “vi skal alle møte opp og få øl en gang.” (Vi har ennå å møte opp og få øl noen tid).
Det er ikke det at arten av vennskap har endret seg, det er at internett har gjort oss til å tro at alt dette var nødvendig og bra.
Og til slutt …
LinkedIn Melding Generator
Har du noen gang fått en forferdelig rekrutterer banen fra LinkedIn? Nå kan du lage dine egne, takket være denne fantastiske / forferdelig verktøyet fra Andrew Duberstein. Her ble mine:
Hei Casey,
Super-pumpet opp for å møte deg! Min arbeidsgiver DeepCube, en de-sentralisert Enron, har nettopp reist 103 DogeCoin å designe fremtidens maritime piratkopiering.
Overrasket av din kunnskap av A/B-testing og hypergrowth, jeg tror du ville være en flott plass for vår In-House Kaffe-Spesialist. La oss ta kaffe å diskutere—hvordan er det torsdag?
Ha en god en!
Drew
Hvordan om aldri, Drew.
Snakk til meg
Send meg tips, kommentarer, eller spørsmål: casey@theverge.com. Eller være som T., hyggelig ung mann som nærmet meg på Blå Flaske i San Francisco på torsdag for å introdusere seg selv og diskutere den siste uken av denne svært nyhetsbrev. Møte nyhetsbrev lesere i det virkelige liv har vært en av de store gledene med å skrive Grensesnittet. Si hei en gang!