L'informatore dietro la fuga di un'enorme cache di documenti di Facebook sul Wall Street Journal, Frances Haugen, è stato reso pubblico su 60 Minutes di domenica, rivelando più dei meccanismi interni della più potente piattaforma di social media in il mondo. Rivelando la sua identità alla televisione nazionale, Haugen ha descritto un'azienda così impegnata nell'ottimizzazione dei prodotti da abbracciare algoritmi che amplificano l'incitamento all'odio.
“Sta pagando i suoi profitti con la nostra sicurezza”, ha detto Haugen 60 minuti ospite Scott Pelley.
Secondo un profilo LinkedIn cancellato, Haugen era un product manager di Facebook assegnato al gruppo Civic Integretity. Ha scelto di lasciare l'azienda nel 2021 dopo lo scioglimento del gruppo. Ha detto che non “si fidava del fatto che fossero disposti a investire ciò che effettivamente deve essere investito per evitare che Facebook sia pericoloso”.
“C'era conflitto… tra ciò che era buono per il pubblico e ciò che era buono per Facebook”
Di conseguenza ha fatto trapelare una cache di ricerche interne alla SEC nella speranza di guidare una migliore regolamentazione della società . Ha notato che aveva lavorato in una serie di aziende, tra cui Google e Pinterest, ma che “era sostanzialmente peggio su Facebook” a causa del desiderio dell'azienda di mettere i suoi profitti sul benessere dei suoi utenti
“C'era un conflitto … tra ciò che era buono per il pubblico e ciò che era buono per Facebook”, ha detto Haugen a Pelley, “e Facebook ha scelto più e più volte di ottimizzare per i propri interessi, come fare più soldi.”
Mentre l'azienda afferma ripetutamente che sta aiutando a fermare l'incitamento all'odio, almeno sui propri prodotti, un documento interno di Facebook trapelato da Haugen afferma: “Stimiamo che potremmo agire anche solo 3-5 % di odio e ~ 0,6% di V&I [Violence and Incitement] su Facebook nonostante sia il migliore al mondo in questo.”
“Disinformazione, tossicità e contenuti violenti sono eccessivamente prevalenti tra le ricondivisioni”, ha affermato un documento interno
Un altro documento è stato ancora più schietto. “Abbiamo prove da una varietà di fonti che incitano all'odio, discorsi politici divisivi e disinformazione su Facebook e la famiglia di app stanno influenzando le società di tutto il mondo.”
Haugen afferma che la radice del problema sono gli algoritmi lanciati nel 2018 che regolano ciò che vedi sulla piattaforma. Secondo lei sono pensati per guidare il coinvolgimento e l'azienda ha scoperto che il miglior coinvolgimento è il tipo che instilla paura e odio negli utenti. “È più facile ispirare le persone alla rabbia che ad altre emozioni”, ha detto Hagen.
All'epoca, Mark Zuckerberg ha presentato i cambiamenti dell'algoritmo come positivi. “Sentiamo la responsabilità di assicurarci che i nostri servizi non siano solo divertenti da usare, ma anche utili per il benessere delle persone”.
Ma secondo il rapporto del Wall Street Journal sulle preoccupazioni di Haugen, il risultato è stato una brusca svolta verso la rabbia e l'odio. “Disinformazione, tossicità e contenuti violenti sono eccessivamente prevalenti tra le ricondivisioni”, ha affermato una nota interna citata dal Journal, valutando gli effetti del cambiamento.
Il Wall Street Journal ha iniziato a pubblicare la sua scoperta dalla cache con il nome “The Facebook Files” a settembre. Un rapporto secondo cui Facebook aveva una ricerca che dimostrava che Instagram ha danneggiato le ragazze adolescenti da allora ha portato a un'udienza del Congresso. Prima dell'udienza Facebook ha tentato di cambiare la narrativa in un post sul blog, che riproduceva due dei rapporti a cui si fa riferimento nel rapporto del Journal.
Prima del rapporto 60 Minutes, Facebook ha tentato di stesse deviazioni in una forma diversa. Il vicepresidente di Facebook Global Affair Nick Clegg è apparso su Reliable Sources della CNN per difendere la società domenica pomeriggio, poche ore prima che apparisse Haugen.
“Penso che sia ridicolo”, ha detto Clegg a proposito dell'accusa che i social media siano stati responsabili delle rivolte del 6 gennaio. “Penso che dia alle persone un falso conforto presumere che ci debba essere una spiegazione tecnologica o tecnica per i problemi della polarizzazione politica negli Stati Uniti”.
Haugen ha concluso l'intervista chiedendo una regolamentazione dei social network più ampia, cosa che lo stesso Facebook ha chiesto in forma più limitata. È programmata per apparire davanti a un pannello del commercio del Senato martedì.