Instagram hat laut einer neuen Entscheidung des Facebook Oversight Board (FOB) versehentlich einen Beitrag verboten, in dem die Einzelhaft kritisiert wurde, weil Facebook die Richtlinien, die dies zuließen, verlegt hatte.
Die Das halbunabhängige Aufsichtsgremium sagt, die Facebook-eigene Seite hätte einen Beitrag über Abdullah Öcalan, ein Gründungsmitglied der militanten Arbeiterpartei Kurdistans (PKK), nicht entfernen dürfen. Facebook bezeichnet Öcalan und die PKK als „gefährliche Entitäten“, die Nutzer auf seinen Plattformen nicht unterstützen können. Im Januar wandten Moderatoren diese Richtlinie auf eine Nachricht an, in der Öcalans Inhaftierung und Einzelhaft – eine Praxis, die die Vereinten Nationen als eine Form der Folter einstufen – in einem türkischen Gefängnis kritisierten.
„Der Vorstand ist besorgt, dass spezifische Leitlinien für Moderatoren .. . war drei Jahre lang verloren“
Der Nutzer legte Berufung beim Aufsichtsgremium ein, das sich bereit erklärte, den Fall zu prüfen. Dabei stellte Facebook offenbar fest, dass „ein interner Leitfaden zur Richtlinie zu gefährlichen Personen und Organisationen 2018 ‚unabsichtlich nicht übertragen‘ in ein neues Überprüfungssystem wurde“. Die Richtlinie sei 2017 unter anderem aufgrund der Debatte über die Lebensbedingungen von Öcalan entwickelt worden und „erlaubt eine Diskussion über die Haftbedingungen für als gefährlich eingestufte Personen“. Aber die interne Anleitung wurde Facebook- oder Instagram-Nutzern nie veröffentlicht – und Facebook erkannte erst, dass es vollständig aus den Moderationsrichtlinien herausgefallen war, als der Nutzer Einspruch einlegte.
„Hätte das Board nicht ausgewählt In diesem Fall zur Überprüfung wären die Leitlinien den Inhaltsmoderatoren unbekannt geblieben, und ein erheblicher Anteil der Äußerung im öffentlichen Interesse wäre entfernt worden“, heißt es in der Entscheidung des FOB. Facebook lehnte es ab, sich dazu zu äußern, ob es diese Einschätzung für zutreffend hält.
„Der Vorstand ist besorgt, dass die spezifischen Leitlinien für Moderatoren zu einer wichtigen Ausnahmeregelung drei Jahre lang verloren gegangen sind“, heißt es in der Entscheidung des FOB weiter. Während Facebook den Post über Öcalan im April wieder herstellte, teilte es dem Vorstand mit, es sei „technisch nicht machbar“, zu sehen, wie viele andere Posts möglicherweise entfernt worden wären, weil die Moderatoren die Ausnahme nicht wussten. „Der Vorstand ist der Ansicht, dass der Fehler von Facebook möglicherweise dazu geführt hat, dass viele andere Beiträge zu Unrecht entfernt wurden und dass die Transparenzberichterstattung von Facebook nicht ausreicht, um zu beurteilen, ob diese Art von Fehler ein systemisches Problem widerspiegelt.“
„Dieser Fall zeigt, warum öffentliche Regeln für Benutzer wichtig sind“
Die FOB-Entscheidung drängt Facebook im Großen und Ganzen, seine Regeln transparenter zu machen. „Dieser Fall zeigt, warum öffentliche Regeln für Nutzer wichtig sind: Sie informieren sie nicht nur über die Erwartungen, sondern befähigen sie auch, auf die Fehler von Facebook hinzuweisen“, heißt es darin. Die Entscheidung besagt, dass Facebook eine Überprüfung durchführt, wie die Richtlinie nicht übertragen wurde, und das FOB hat eine Reihe weiterer optionaler Empfehlungen angeboten. Dazu gehört die Durchführung eines Überprüfungsprozesses, um festzustellen, ob andere Richtlinien verloren gegangen sind, sowie die öffentliche Klärung der Grenzen des Verbots der Unterstützung „gefährlicher Einzelpersonen und Organisationen“.
Soziale Netzwerke wie Facebook und Instagram halten oft Teile ihrer Richtlinien geheim und sagen, dass die Veröffentlichung völlig präziser Moderationsregeln Trolle und anderen bösen Akteuren ermöglicht, das System auszuspielen. Wie das FOB feststellt, kann diese Art der Geheimhaltung eines riesigen, diffusen Dienstes jedoch Missverständnisse erleichtern – wie es anscheinend in diesem Fall der Fall war.