E ‘ stata una grande settimana per i racconti di moderazione dei contenuti. Venerdì scorso, Radiolab inviato un affascinante episodio su Facebook evoluzione approccio a decidere ciò che rimane sulla piattaforma. L’episodio ha usato una serie di storici dibattiti all’interno dell’azienda per illuminare le tante sfide di una società che cerca di regolare il discorso a livello globale.
Giovedì, Madre di Jason Koebler e Giuseppe Cox inviato la loro storia di moderazione dei contenuti su Facebook, ma con un occhio rivolto al futuro. Disegno su interviste con Facebook dirigenti, attuali ed ex moderatori, e i ricercatori universitari, Koebler e Cox a stabilire la portata del problema e Facebook gli sforzi per avvolgere le braccia intorno ad esso.
E ‘ un pezzo che i crediti di Facebook per la premurosa lavoro ha svolto sull’argomento, esprimendo un profondo scetticismo per il progetto in generale. Un passaggio a metà strada attraverso il pezzo è rimasto con me:
La dimensione è la sola cosa che Facebook non è disposta a rinunciare. E così Facebook contenuti del team di moderazione è stato dato un compito di Sisifo: Risolvere il pasticcio Facebook la visione del mondo e un modello di business ha creato, senza cambiare la visione del mondo o di modello di business in sé.
“Rendere le loro azioni-e-commercio a sollecitare unvetted, dio sa che cosa il contenuto da praticamente chiunque sulla terra, con tutti gli ordini del giorno, inclinazioni ideologiche, politiche, obiettivi e cercando di rendere sostenibile — è quasi ridicolo quando si pensa in questo modo,” Roberts, professore di UCLA, ha detto Madre. “Quello che stiamo cercando di fare è quello di risolvere natura umana fondamentalmente.“
Facebook probabilmente non direi che è il tentativo di “risolvere” la natura umana. Ma è vero che la società gli sforzi di tutti cominciare dal concetto che si può e si deve collegare tutti sulla terra — pur avendo poca certezza circa le conseguenze di farlo.
Il pezzo richiama di nuovo l’attenzione sul ruolo Sheryl Sandberg ha giocato in moderazione dei contenuti controversie, di reporting che Facebook chief operating officer di non pesare sul difficile chiamate di volta in volta. (CEO Mark Zuckerberg.) Esamina la difficoltà a mantenere contenuti i moderatori, che hanno il compito di un’spesso terribili, e — a causa di una continua evoluzione serie di standard deve costantemente essere riqualificato.
Un odio presentazione ottenuto dalla scheda Madre ha un elenco di tutte le recenti modifiche delle slide, ivi comprese le aggiunte, rimozioni e chiarimenti su certi argomenti. In alcuni mesi, Facebook ha spinto modifiche all’odio formazione documento più volte all’interno di una finestra di un paio di giorni. In tutto, Facebook modificato il materiale più di 20 volte in un periodo di cinque mesi. Alcune modifiche sono abbastanza breve da non richiedere alcun tipo di riqualificazione, ma altre, più piccole modifiche bisogno di moderatori per essere riqualificato in quel punto. Alcune presentazioni individuali ottenuti dalla scheda Madre tratto in centinaia di diapositive, passo attraverso esempi e punti sul perché un particolare pezzo di contenuto deve essere rimosso.
Per lo più, come Radiolab, il pezzo trasmette l’enormità della sfida. La reazione online è stato in gran parte scettico. (New York Max di Lettura: “Tutte queste supposte Nietzsche tifosi uniti in un progetto dover applicare un ‘coerente’ insieme di regole per tutti i discorsi e le relazioni umane. In bocca al lupo!!!”)
Forse i futuri eventi complicare Facebook del progetto di collegamento tra tutti. Ma se non lo fanno, ritorno all’idea che la società dovrebbe procedere con Zuckerberg idea di una Corte Suprema per la moderazione dei contenuti. Come ho detto all’inizio di questa settimana: in definitiva, la questione di ciò che appartiene su Facebook non può essere deciso solo da persone che ci lavorano.
Germania
Ieri, ho promesso che avrei dovuto far sapere se gli autori di tale studio, su Facebook e rifugiati violenza in Germania tornato a me. La mia domanda era come si potrebbe spiegare la cronologia e il loro studio: sembrava impossibile, dato che i dati presentati, che si può dire con certezza che i post su Facebook portato alla violenza, piuttosto che l’altro senso intorno.
Ho sentito indietro da uno degli autori, Karsten Müller. Ha fatto due punti chiave. Uno studio attento per non dire con certezza che dimostra di causalità. Gli autori’ esatto è: “I risultati in questa sezione devono essere interpretata come puramente suggestivo e non consentono l’inferenza causale.”
Il secondo punto, che poggia su una descrizione dettagliata del sondaggio elaborato la metodologia, che si basa sullo sviluppo di modelli di Facebook in base all’utilizzo sulle interazioni sulle pagine del pubblico, e quindi la correlazione con le istanze di anti-profughi di violenza. Müller mi ha detto ciò che permette agli autori di fare alcune affermazioni del nesso di causalità è lo studio dell’uso di internet interruzioni per determinare quando i comuni tedeschi avevano una minore esposizione a Facebook:
Come si scopre, troviamo una correlazione tra l’interazione di locali di social media di penetrazione e di una misura anti-rifugiati sentimenti su Facebook da un lato, e i reati generati dall’odio, dall’altro, sembra svanire nel settimane interruzioni si verificano. Un grafico che visualizza questi risultati può essere trovato nella nuova versione della carta, disponibile su SSRN (cercare “cestinate scatter plot”). Se si vuole affermare che i social media non hanno alcun effetto sulla propagazione crimini d’odio quando le tensioni sono già alto (che è quello che stiamo misurando), si avrebbe bisogno di spiegare la mediazione effetto di queste interruzioni.
Così come si potrebbe spiegare che la mediazione effetto? Tyler Cowen prende una botta sul suo blog:
Anche se internet o Facebook interruzioni hanno un effetto predittivo sugli attacchi in qualche modo, è probabile che dimostra che Facebook è un mezzo di comunicazione utilizzato per organizzare i raduni e gli attacchi (come il telefono una volta potrebbe essere stato), e non, come gli autori ripetutamente suggeriscono, che Facebook è in qualche modo la generazione e la fustigazione e il controllo razzista sentimento nel tempo. Di nuovo, confrontare tale possibilità della più ampia letteratura. C’è una buona evidenza che l’anti-semita violenza attraverso le regioni della germania è abbastanza persistente, con i pogrom durante la Morte Nera previsione, la sinagoga di attacchi durante il periodo Nazista. E noi dovremmo credere che razzista sentimenti degenerare nella passività, semplicemente perché i teppisti non può accedere a Facebook per pochi giorni, o forse una settimana?
Cowen post è ancora la pena di leggere per intero. Come ho detto ieri, molta confusione attorno studio tedesco deriva dal fatto che la maggior parte dei dati non è disponibile per noi. Dati anonimi, condivisi in modo sicuro, con ben accettata studiosi, sarebbe probabilmente portare a noi molto più vicini alla verità.
La democrazia
Google cancella i conti con legami con l’Iran su YouTube e altri siti
L’influenza Iraniana campagna portati alla luce da FireEye e Facebook aveva tavole su YouTube e Blogger, Tony Romm report:
Google ha annunciato giovedì che eliminato 58 conti con legami con l’Iran sulla sua piattaforma video di YouTube e altri siti, l’ultimo segno che gli agenti stranieri da tutto il mondo, sempre più cercano di diffondere disinformazione su una vasta gamma di popolari siti web.
Il nuovo rimozioni mirate 39 canali di YouTube, che aveva più di 13.000 visualizzazioni negli Stati Uniti, così come 13 account sul sito di social networking di Google Plus e sei account su Blogger, la sua piattaforma di blogging, ha detto la società. Kent Walker, Google senior vice president of global affairs, ha detto in un blog postthat ciascuno dei conti aveva avuto contatti con la Repubblica Islamica dell’Iran Broadcasting, o IRIB, che è legato all’Iran dell’ayatollah, e che hanno “mascherato la loro connessione con questo sforzo”.
Come FireEye ha Aiutato a Facebook Spot di una Campagna di Disinformazione
Kate Gronghi e Sheera Frenkel piedi, come FireEye trovato Iraniano operazione:
“È cominciato tutto con un solo account social media o una piccola serie di conti che si stavano spingendo a questa politica in tema di contenuto che non necessariamente sembrano in linea con la persona che conti aveva adottato”, ha detto Foster. Molti degli account falsi, che disteso su Facebook, Instagram, Twitter e Reddit, i contenuti condivisi dal Liberty Fronte Premere.
Da oltre due mesi, Foster e un piccolo gruppo di analisti di mappare le connessioni tra i conti e portato alla luce più di loro.
Tentativo di Hacking di Elettore del Database, Era un Falso Allarme, Partito Democratico Dice
Mercoledì ho portato la notizia che il Comitato Nazionale Democratico era potenzialmente un hacking di destinazione. Si scopre che il Partito Democratico del Michigan aveva assunto hacker per simulare un attacco.
False notizie di guerra diventa sofisticato prima del 2018 elezioni di medio termine
Sara Fischer esamina alcuni dei modi che la disinformazione è in continua evoluzione davanti al midterms:
Più sofisticati bot strumenti: i Nuovi strumenti sono creati per manipolare l’informazione al blog o il commento di livello su siti web di tutti i giorni, dice Mike Marriott, ricercatore presso le Ombre Digitali, digitale, una società di sicurezza.
In un nuovo report, Marriott spiega che strumenti come BotMasterLabs e ZennoStore pretendiamo di promuovere il contenuto di centinaia di migliaia di piattaforme, tra forum, blog, bacheche, ma in realtà, essi controllano gran numero di bot che sono programmati per post su specifici tipi di forum di discussione su argomenti diversi.
Polizia di Memphis utilizzato falso Facebook account per monitorare Nero Vive Materia, prova rivela
Non sono solo i Russi e gli Iraniani impegnati in “coordinato autentica, il problema” ora è anche una strategia per gli agenti di polizia, Antonia Noori Fazan report:
Bob Smith ha detto che ha vissuto in Oxford, Miss. Su Facebook, ha “gradito” pagine per il Nero Vive Materia, Sen. Bernie Sanders (I-Vt.), Memphis Voci Per la Palestina, Metà a Sud la Pace e la Giustizia, e il comico Rickey Smiley, secondo le immagini ottenute con Il Ricorso. “Io non sono un poliziotto”, ha scritto in privato Facebook messaggio di un attivista, aggiungendo che sarebbe interessato a partecipare a proteste in area di Memphis, ma era un po ‘ di un auto. In luogo di un’immagine di profilo, ha caricato un’illustrazione di una maschera di Guy Fawkes.
Questo perché “Bob Smith” non era una persona di colore, come aveva richiesto on-line. Lunedì, Sgt. Timoteo Reynolds, un bianco detective con il Dipartimento di Polizia di Memphis Office of Homeland Security, ha testimoniato in tribunale federale, che aveva creato l’account e friended centinaia di attivisti, secondo l’Appeal Commerciale.
Facebook Vieta Quiz App Che sono stati Acquisiti i Dati di Quattro Milioni di Utenti
Deepa Seetharaman ottiene una dichiarazione del ragazzo, la cui personalità quiz app ha vietato da Facebook mercoledì:
Uno dei ricercatori che l’applicazione, David Stillwell, chiamato il divieto di “privo di senso e puramente per PR motivi.” Signor Stillwell hanno detto che i risultati dal myPersonality app sono stati utilizzati per la pubblicazione di vari social science research papers in questi ultimi anni e che lui e il suo partner di ricerca, sono stati invitati a Facebook uffici nel 2011 e il 2015, per discutere del loro lavoro.
“È quindi strano che Facebook dovrebbe improvvisamente ora dirsi per conoscere il myPersonality di ricerca e di credere che i dati potrebbero essere stati abusati,” Mr. Stillwell ha detto in una dichiarazione.
Russo Troll Si Stanno Diffondendo Confusione Circa La Sicurezza Del Vaccino Su Twitter
Ecco una storia di Azeen Ghorayshi che prende Twitter continuo parlare di “piattaforma per la salute” e rende letterale:
Conti eseguire da parte del governo russo-backed Internet Agenzia di Ricerca twittato a proposito di vaccini circa 22 volte più frequente rispetto alla media utente di Twitter, lo studio trovato. Il tweet è caduto più o meno equamente in pro-vaccino anti-vaccino categorie.
“Non sembrano avere una particolare agenda materia di vaccini — piuttosto che sembrano avere una volontà di rafforzare entrambi i lati del dibattito”, ha detto David Broniatowski, assistente professore di ingegneria presso la George Washington University e autore principale dello studio. “Questo è coerente con questa idea di diffondere la discordia.”
Giganti della tecnologia Stanno Diventando Difensori della Democrazia. Ora Che Cosa?
Issie Lapowsky chiede perché sembra che le aziende di tecnologia stanno facendo di più per proteggere la nazione da attacchi di governo:
Il Dipartimento di Giustizia ha emesso feroce rinvii a giudizio di hacker russi e i troll di questo anno, ma senza la competenza internazionale sono in gran parte simbolica. La Casa Bianca tagliato il suo top cyber posizione politica dopo la partenza dell’ex zar della sicurezza informatica Tom Bossert nel mese di aprile. L’Impegno Globale, un Centro di iniziativa del Dipartimento di Stato che è stato diretto per contrastare la propaganda russa, è stato affamato di risorse per la maggior parte dello scorso anno. Ed è chiunque congettura che, appunto, è responsabile di assicurarsi che l’informazione viene condivisa con le persone giuste tutto il settore pubblico e settore privato.
“Ogni agenzia è fuori a fare la sua propria cosa. Nessuno è responsabile”, dice Brett Bruen, ex Casa Bianca direttore dell’impegno globale sotto il Presidente Obama. “Continuiamo ad avere un silos di processo all’interno del governo, figuriamoci portando il settore privato al tavolo per cercare di capirlo insieme.”
Il sospetto che fatalmente accoltellato l’uomo nero in Pennsylvania ‘piaciuto’ quasi il 50 razzista alt-destra Facebook pagine
Il sospetto nell’uccisione di un uomo nero in Pennsylvania, era intrisa di nazionalismo bianco su Facebook, rapporti Alex Modificare:
Su Facebook, Rocco “mi piace” di quasi 50 pagine che il traffico di memi e slang, favorito dall’alt-destra e, in generale, bianco movimento nazionalista.
Rocco sottoscritto pagine come “Alt Destro Meme Magia”, “Smash Culturale del Marxismo” e “Lazer con Travi a vista Memi con Fashy Temi, così come una manciata di altoparlanti motivazionali e altre pagine dedicato al body building. Rocco sottoscritto la pagina di Identità Dixie, un PLC-area neo-Confederato odio gruppo.
Altrove
Apple rimuove Facebook Onavo app da app Store
Onavo fa una VPN app che gli utenti possono scaricare per navigare sul web più privatamente. Ma Facebook, che ha acquistato Onavo nel 2013, ha utilizzato come un sistema di preallarme per vedere quali applicazioni competitivi potrebbe essere guadagnando trazione. (Un ex Facebooker mi ha detto la cosa più preoccupante app cresciuto “basso e lento” — piccola in numeri assoluti, ma costantemente, e, pur mantenendo la loro base di utenti esistente.) Ora Apple, che ha fatto di pacche sulla schiena oltre a questioni di privacy, una chiave di messaggistica aziendale strategia, è sotto pressione Facebook per prendere Onavo fuori di App Store. Rimarrà su Android, ma è ancora un duro colpo per Facebook.
Facebook tasche nuova OCM Antonio Lucio dalla HP
Facebook ha un nuovo direttore marketing per sostituire Gary Briggs.
Facebook business esecutivo Dan Rose, foglie
Come Peter Kafka note qui, questo è il secondo grande affare Facebook partenza questa estate, dopo la testa di politica e di comunicazione Elliot Schräge. Rose, che è entrato in Facebook nel 2016, ha supervisionato lo sviluppo del business, e ha portato la società, l’acquisizione di Instagram, tra le altre cose.
La Notizia di Alfabetizzazione Progetto è insegnare ai bambini a smettere di notizie false
Mark Sullivan e Tim Bajarin profilo la Notizia Progetto di Alfabetizzazione:
La Notizia di Alfabetizzazione Progetto, un programma di formazione finalizzato ad aiutare i giovani a distinguere le notizie vere dalle false notizie in età di un’arma di social media, gli attacchi e le notizie false problema a livello consumer. Washington, DC, senza scopo di lucro dice che dal 2016 le elezioni, è stato fielding un aumento della domanda da parte di insegnanti in tutto il mondo. Recentemente, ha ricevuto una $1 milioni di sovvenzione da Facebook per aiutare ad espandere il suo curriculum. Aiutando i bambini affinare le proprie stronzate rilevatori, la PNL, e progetti come, può offrire la nostra migliore speranza contro di false notizie.
Venmo Ritiene che rende più Difficile Vedere che Cosa la Gente sta Comprando
Venmo è, infine, una sorta di, forse sbarazzarsi di API pubblica che permette a chiunque di raschiare Venmo acquisti di mettere in imbarazzo le persone online, rapporti Julie Verhage:
Il dibattito all’interno di PayPal è stato innescato da preoccupazioni per la privacy dei suoi utenti. Questa estate, un ricercatore ha attirato l’attenzione Venmo impostazioni per la privacy, che per impostazione predefinita pubblico, con la sua analisi di più di 200 milioni di transazioni sulla piattaforma. PayPal ha detto che dà agli utenti la possibilità di condividere solo con gli amici o con il destinatario e può regolare questo per ogni transazione.
Lancia
Wickr ha un nuovo piano per schivare i blocchi di internet
Crittografato chat app, in partnership con una società denominata Psiphon per oscurare l’origine del traffico, il mio collega Russell Brandom rapporti. Come più paesi cercano di divieto di applicazioni di chat, questo tipo di cosa potrebbe diventare la più probabile.
NewsGuard Lotte Di False Notizie Con Gli Esseri Umani, Non Di Algoritmi
Steven Brill falso-news-combattimento azienda ha un estensione di google Chrome che i tassi di siti di notizie sull’affidabilità, con ingresso dal suo reporter. Issie Lapowsky:
Per controllare i siti, utilizzare una lista di controllo di nove criteri che in genere indicano l’affidabilità. I siti che non etichettare chiaramente la pubblicità di perdere punti, per esempio. I siti che hanno una coerente correzione politica guadagnare punti. Se si installa NewsGuard e la consultazione di Google, Bing, Facebook, o Twitter, vedrete un icona rossa o verde, di fianco ad ogni fonte di notizie, un indicatore binario di se incontra NewsGuard standard. Passa il mouse sopra l’icona, e NewsGuard offre una completa nutrizione etichetta” punto per punto le descrizioni di come ha fatto il sito e i link per il bios di chi ha segnato.
Lo strumento è progettato per massimizzare la trasparenza, dice Steve Brill, NewsGuard è cofondatore, meglio conosciuto per aver fondato la società via cavo Court TV. “Stiamo cercando di essere il contrario di un algoritmo”, dice. Brill ha iniziato NewsGuard con Gordon Crovitz, ex editore del Wall Street Journal.
Prende
Il NYTimes non hanno contato in modo pesante su che Facebook e anti-profughi di studio.
Felix Salmon ha più acqua fredda per gettare lo studio di Facebook in Germania:
Con il senno di poi, i Tempi dovrebbero evitare termini come “punto di riferimento” e “mozzafiato”, e dovrebbe probabilmente hanno evitato di menzionare risultati specifici. Il libro bianco è intrigante, ed è stata una grande idea di usarlo come un trampolino di lancio per il giornale di scarpe in pelle di reporting. Lo studio non è stato, tuttavia, qualcosa per citare un significativo progresso scientifico. Facebook deliberatamente rende estremamente difficile per i ricercatori esterni per quantificare gli effetti sulla società, il che significa che il meglio che possiamo sperare è di mettere insieme un puzzle di prove suggestive. (Se la società sarebbe solo rendere i dati disponibili, ci piacerebbe smettere di essere costretto a stimare via imperfetto Nutella-proxy.) Ma allo stato dei fatti, non un pezzo di ricerca sta per essere il tipo di pistola fumante che i Tempi tenta di trasformare questo in.
Può Facebook, o Chiunque altro, a Risolvere il Internet Disinformazione Problema?
Farhad Manjoo è pessimista sulle piattaforme di’ sforzi per frenare la disinformazione:
Prendere in considerazione la domanda più pressante: Come sicuri dovrebbero essere le prossime elezioni di medio termine sarà al sicuro da hacker e propaganda operazioni online? La risposta più probabile è che Nessuno lo sa con certezza, ma probabilmente non è molto fiducioso.
WhatsApp è una falsa notizia problema che può essere risolto senza rompere la crittografia
In un intelligente saggio, Himanshu Gupta e Dura Taneja sostengono che WhatsApp potrebbe moderato la diffusione di bufale su WhatsApp li identificando i metadati livello. (Gupta precedentemente lavorato presso rivale di WhatsApp WeChat.)
Pertanto, anche se WhatsApp in realtà non è possibile leggere il contenuto di un messaggio, è possibile accedere all’unico crittografica di hash del messaggio (che utilizza per abilitare l’immediato inoltro), l’ora di invio del messaggio, e altri metadati. Può anche potenzialmente determinare chi ha inviato un file in particolare a chi. In breve, è possibile tenere traccia di un messaggio di viaggio sulla sua piattaforma (e, quindi, di false notizie) e identificare il mittente del messaggio.
Se WhatsApp è possibile identificare un particolare di un messaggio di metadati precisamente, è possibile contrassegnare il messaggio come “false notizie” dopo opportuna moderazione dei contenuti. Si può sostenere che WhatsApp può, con alcune modifiche al suo algoritmo, identificare il mittente originale di un falso news, immagini, video, testo o e, potenzialmente, anche interrompere il contenuto da un’ulteriore diffusione della propria rete.
Voglio Log Off
Steve Rousseau dice: applicazioni sociali hanno cambiato la natura dell’amicizia, in modi che lo fanno sentire depresso:
E ‘ sempre più la sensazione come se io non sto partecipando al interminabile conversazione online, non sto partecipando mie amicizie più. Quello che era iniziato come una chat di gruppo per organizzare gite in bicicletta è ormai un meme discarica intervallate da “tutti dobbiamo incontrare e ottenere birre po ‘ di tempo.” (Dobbiamo ancora incontrare e ottenere birre po ‘ di tempo).
Non è che la natura di amicizia è cambiato, è che internet ci ha fatto credere che tutto questo è stato necessario e buono.
E infine …
LinkedIn Generatore Di Messaggi
Avete mai ricevuto una terribile recruiter passo da LinkedIn? Ora potete fare il vostro proprio, grazie a questo incredibile / terribile strumento di Andrew Duberstein. Qui era il mio:
Ciao Casey,
Super-pompato di conoscerti! Il mio datore di lavoro DeepCube, un de-centralizzata Enron, ha solo alzato 103 DogeCoin per progettare il futuro della pirateria marittima.
Stupito dalla vostra conoscenza di A/B testing e hypergrowth, penso che sarebbe una grande misura per il nostro Tè Specialista. Andiamo a prendere il caffè per discutere—come del giovedì?
Hanno una buona!
Drew
Come mai circa, Drew.
Talk to me
Inviarmi suggerimenti, commenti o domande: casey@theverge.com. O essere come T., il bel giovane uomo che si avvicinò a me in Bottiglia Blu a San Francisco, giovedì prossimo, per presentarsi e discutere la settimana passata in questa newsletter. Incontro i lettori del bollettino, nella vita reale, è stata una delle grandi gioie della scrittura Interfaccia. Dire ciao a volte!