De plus en plus, je me demande pourquoi nous avons construit un monde dans lequel tant de discours civiques se déroulent à l'intérieur d'une poignée de centres commerciaux numériques géants.
Parlons donc de la décision de Facebook de désactiver les pages et les comptes personnels associés au projet Ad Observatory de l'Université de New York, qui a pris des données fournies par des utilisateurs volontaires de Facebook et les a analysées dans le but de mieux comprendre les élections de 2020 et d'autres sujets d'intérêt public.
Dans un coin, vous avez des chercheurs universitaires qui travaillent à comprendre les effets de la plateforme sur notre démocratie. Dans l'autre, vous avez une entreprise battue par près de deux décennies de scandales liés à la protection de la vie privée et d'amendes réglementaires, toujours terrifiée à l'idée qu'une suite de Cambridge Analytica se cache quelque part sur la plate-forme.
J'ai écrit pour la première fois sur cette affaire en octobre, lorsque Facebook a envoyé son premier avis de cessation et d'abstention aux chercheurs. Le problème concernait une extension de navigateur créée par une équipe de NYU qui, si elle est installée, collecte des données sur les publicités que vous voyez sur Facebook, y compris des informations sur la façon dont ces publicités sont ciblées. Facebook met déjà des données similaires à la disposition du public via ses archives publicitaires en ligne, mais les chercheurs de la NYU disent qu'elles sont incomplètes et parfois inexactes. Entre autres choses, disent-ils, de nombreuses publicités politiques ne sont jamais étiquetées comme telles.
Personne à qui j'ai parlé sur Facebook ne pense que le travail de NYU n'est pas fondamentalement dans l'intérêt public. D'autres supports de publicité politique ne permettent pas aux campagnes de cibler les électeurs avec presque le niveau de précision que Facebook fait, et la croyance persistante que Facebook a balancé les élections de 2016 à Donald Trump a attiré un examen approfondi des pratiques publicitaires de l'entreprise en 2020. Ce n'est pas étonnant. les universitaires veulent étudier la plate-forme.
Anticipant cet intérêt, la société a créé la plate-forme Facebook Open Research and Transparency plus tôt cette année. Mais comme la plupart des partenariats académiques de l'entreprise, FORT a été critiqué pour être trop limité au regard de Facebook qu'il fournit. Dans le cas de l'élection, par exemple, il ne fournira que les données des 90 jours précédant le jour du scrutin, malgré le fait que la campagne présidentielle a duré bien plus d'un an. De plus, selon les chercheurs, FORT exige des chercheurs qu'ils accèdent aux données sur un ordinateur portable fourni par Facebook, ce qui les empêche d'utiliser leurs propres classificateurs d'apprentissage automatique et d'autres outils sur les données disponibles.
lorsque NYC a reçu l'interdiction, ils prévoyaient de l'ignorer
C'est pourquoi, lorsque l'équipe de NYU a reçu cette interdiction l'automne dernier, ils ont dit qu'ils prévoyaient de l'ignorer. « La seule chose qui nous pousserait à arrêter de faire cela serait que Facebook le fasse lui-même, ce que nous leur avons demandé de faire », a déclaré la chercheuse Laura Edelson au Wall Street Journal.
Facebook a déclaré qu'il n'interdirait NYU que bien après les élections et a tenu parole. Mais mardi soir, la société a laissé tomber le marteau sur l'équipe de NYU. “Nous avons pris ces mesures pour arrêter le grattage non autorisé et protéger la vie privée des personnes conformément à notre programme de confidentialité en vertu de l'ordonnance de la FTC”, a déclaré Mike Clark, directeur de la gestion des produits, se référant au décret de consentement de Facebook avec la Federal Trade Commission.
Alex Abdo, un avocat des chercheurs de NYU, m'a dit qu'il était déconcerté par les actions de Facebook.
“D'une part, ce n'est pas surprenant, d'autre part, il est totalement choquant que la réponse de Facebook à la recherche dont le public a vraiment besoin en ce moment soit d'essayer de la fermer”, a-t-il déclaré dans une interview. « La confidentialité dans la recherche et les médias sociaux est une question vraiment difficile. Mais la réponse ne peut pas être que Facebook décide unilatéralement. Et il n'y a pas de projet de recherche indépendant qui soit plus respectueux de la vie privée des utilisateurs que Ad Observer.”
Parlons donc de la vie privée. L'Ad Observer a été conçu pour collecter des données sur les publicités individuelles et les personnes ciblées, et également pour anonymiser ces données. Mozilla, l'organisation à but non lucratif derrière le navigateur Firefox, a effectué un examen du code de l'extension et de son flux de consentement et a finalement recommandé que les gens l'utilisent.
“Nous avons décidé de recommander Ad Observer parce que nos critiques nous ont assuré qu'il respecte la confidentialité des utilisateurs et soutient la transparence”, a déclaré Marshall Erwin, responsable de la sécurité de l'entreprise, dans un article de blog. « Il ne collecte pas de messages personnels ou d'informations sur vos amis. Et il ne compile pas de profil utilisateur sur ses serveurs.
Vous ne serez probablement pas surpris d'apprendre que Facebook voit les choses différemment. Malgré les efforts déployés par les chercheurs ici, m'a dit la société, l'Ad Observer collecte toujours des données auxquelles certains utilisateurs peuvent s'opposer. Si un individu paie pour booster une publication, comme pour une collecte de fonds, les informations, y compris le nom et la photo de cet utilisateur, se retrouvent entre les mains des chercheurs de NYU. L'Ad Observer peut également collecter des informations similaires à partir des commentaires sur les annonces. Et Facebook dit que les informations glanées dans une publicité « pourquoi est-ce que je vois ça ? » panneau “peut être utilisé pour identifier d'autres personnes qui ont interagi avec les annonces et déterminer les informations personnelles les concernant”.
Dans tous ces cas, le préjudice réel pour l'utilisateur semblerait être extrêmement mineur, si vous pouvez l'appeler un préjudice du tout. Mais Facebook dit que c'est contre leurs règles, et qu'ils doivent appliquer ces règles, notamment parce que Cambridge Analytica était l'histoire d'un chercheur apparemment bien intentionné qui a finalement vendu les données qu'il a collectées et a créé sans doute le plus grand scandale de l'histoire de l'entreprise.< /p> Cambridge Analytica parlait d'un chercheur apparemment bien intentionné
C'est pour cette raison que j'ai au moins une certaine empathie pour Facebook ici. L'entreprise est continuellement critiquée pour la façon dont elle collecte et utilise les données personnelles, et vous avez ici un cas où l'entreprise essaie de limiter cette collecte de données, et bon nombre des mêmes critiques qui évoquent toujours Cambridge Analytica sur Twitter trois ans plus tard, soutiennent simultanément que Facebook a l'obligation morale de laisser l'Observatoire de la publicité glisser.
Mais laisser les choses glisser n'est pas vraiment dans l'esprit du Règlement général sur la protection des données, la loi californienne sur la protection de la vie privée. , et un certain nombre d'autres règles de confidentialité. (Comme l'a dit une personne intelligente sur notre serveur Sidechannel : « Le RGPD n'a pas d'exemption générale de recherche. »)
Contrairement à certains rapports antérieurs, Facebook ne prétend pas qu'Ad Observer viole son décret de consentement FTC, m'a-t-il dit. Mais la société a au moins quelques bonnes raisons d'empêcher le grattage de données à grande échelle comme celui représenté par les chercheurs de NYU. La montée en puissance de Clearview AI, une société de surveillance dystopique qui a construit la reconnaissance faciale en partie en collectant des photos accessibles au public sur Facebook, a rendu ce cas de manière viscérale cette année.
Alors que la lutte entre NYU et Facebook est devenue moche cette semaine, je pense qu'il existe des voies à suivre évidentes (bien que difficiles).
L'une est que Facebook pourrait étendre ses outils d'exportation de données actuels pour permettre à contribuer volontairement nos données à des projets comme Ad Observer, mais d'une manière encore plus respectueuse de la vie privée. À entendre Facebook le dire, si l'extension de navigateur de NYU collectait juste une poignée de types de données en moins, cela aurait pu être acceptable pour l'entreprise.
Si vous pensez que les utilisateurs ont le droit de discuter de leurs expériences personnelles sur Facebook, je pense que vous devriez également convenir qu'ils ont le droit de fournir volontairement des données personnelles qui parlent de cette expérience. De par la nature de Facebook, l'expérience personnelle de n'importe qui va également contenir de nombreuses autres données d'amis potentiellement non consentants. Mais l'entreprise me permet déjà d'exporter les données de mes amis – lorsqu'ils me taguent dans les commentaires, m'envoient des messages Facebook, etc. La société est déjà bien plus près de trouver un moyen de me laisser partager ces informations avec les chercheurs qu'il n'y paraît.
Une autre option – rarement utilisée aux États-Unis – est que le Congrès pourrait faire passer une loi. Il pourrait rédiger une législation nationale sur la protection de la vie privée, par exemple, et créer une exclusion dédiée aux chercheurs universitaires qualifiés. Cela pourrait obliger les plateformes à divulguer plus de données en général, aux universitaires et à tout le monde. Il pourrait créer une agence fédérale dédiée à la surveillance des plateformes de communication en ligne.
L'alternative, comme toujours, est d'attendre que les plateformes se régulent – et d'être continuellement déçu par le résultat.
La dispute NYU-Facebook allait toujours finir à la place nous le trouvons aujourd'hui : aucune des deux parties n'avait de bonnes raisons de reculer. Mais nous avons tous des raisons d'espérer que les chercheurs et les entreprises technologiques s'entendent mieux. Trop d'enjeux est en jeu pour que les plateformes restent à jamais une boîte noire.
« On pourrait penser qu'elles seraient capables de faire la distinction entre les Cambridge Analyticas du monde et la bonne foi , chercheurs respectueux de la vie privée du monde », m'a dit Abdo. “S'ils ne peuvent pas le faire, alors il n'y a vraiment aucun espoir de recherche indépendante sur la plate-forme de Facebook.”
Si Facebook ne peut pas – ou ne veut pas – faire cette distinction, Le Congrès devrait le faire pour eux.
Cette chronique a été co-publiée avec Platformer, un bulletin quotidien sur les Big Tech et la démocratie.
< /p>