Twitter veranstaltet einen Wettbewerb in der Hoffnung, dass Hacker und Forscher in der Lage sind, Verzerrungen in seinem Algorithmus zum Zuschneiden von Bildern zu erkennen – und es werden Geldpreise an die Gewinnerteams vergeben (via Engadget). Twitter hofft, dass Teams durch den Zugriff auf sein Code- und Bildbeschneidungsmodell Wege finden können, wie der Algorithmus schädlich sein könnte (z “CXbxoN”>Die Teilnehmer müssen eine Beschreibung ihrer Ergebnisse und einen Datensatz einreichen, der den Algorithmus durchlaufen kann, um das Problem zu demonstrieren. Twitter vergibt dann Punkte basierend darauf, welche Art von Schäden festgestellt wurde, wie stark sie möglicherweise Menschen betreffen könnten und vieles mehr.
Das Gewinnerteam erhält 3.500 US-Dollar, und es gibt separate 1.000 US-Dollar-Preise für die innovativsten und verallgemeinerbarsten Ergebnisse. Dieser Betrag hat auf Twitter für Aufsehen gesorgt, da einige Benutzer sagten, dass er eine zusätzliche Null haben sollte. Für den Kontext, das normale Bug-Bounty-Programm von Twitter würde Ihnen 2.940 US-Dollar zahlen, wenn Sie einen Fehler finden, mit dem Sie mithilfe von Cross-Site-Scripting Aktionen für jemand anderen ausführen können (z. B. einen Tweet oder ein Bild retweeten). Wenn Sie ein OAuth-Problem finden, mit dem Sie das Twitter-Konto einer anderen Person übernehmen können, würden Sie 7.700 US-Dollar einbringen.
Durch einen Wettbewerb erhält Twitter Feedback aus einer viel breiteren Palette von Perspektiven
Twitter hat bereits zuvor eigene Recherchen zu seinem Algorithmus zum Zuschneiden von Bildern durchgeführt – im Mai veröffentlichte es ein Papier, in dem untersucht wurde, wie der Algorithmus voreingenommen war, nachdem beschuldigt worden war, dass seine Vorschaubilder rassistisch waren. Twitter hat seitdem größtenteils das algorithmische Zuschneiden von Vorschauen abgeschafft, aber es wird immer noch auf dem Desktop verwendet und ein guter Zuschneidealgorithmus ist für ein Unternehmen wie Twitter praktisch.
Einen Wettbewerb eröffnen ermöglicht es Twitter, Feedback aus einer viel breiteren Palette von Perspektiven zu erhalten. Zum Beispiel veranstaltete das Twitter-Team einen Raum, um über den Wettbewerb zu diskutieren, bei dem ein Teammitglied erwähnte, dass er Fragen zu kastenbasierten Voreingenommenheiten im Algorithmus erhielt, was für Softwareentwickler in Kalifornien möglicherweise nicht wahrnehmbar ist.
Twitter sucht auch nach Möglichkeiten, wie sein Algorithmus ausgenutzt werden könnte
Es ist auch nicht nur nach unbewussten algorithmischen Vorurteilen, nach denen Twitter sucht. Die Rubrik hat Punktwerte für beabsichtigte und unbeabsichtigte Verletzungen. Twitter definiert unbeabsichtigte Schäden als Zuschnitte, die dadurch entstehen könnten, dass ein „gut gemeinter“ Benutzer ein normales Bild auf der Plattform postet, während absichtliche Schäden problematisches Zuschnittsverhalten sind, das von jemandem ausgenutzt werden könnte, der in böser Absicht gestaltete Bilder postet.
Twitter sagt in seinem Ankündigungsblog, dass der Wettbewerb von seinem Bug-Bounty-Programm getrennt ist – wenn Sie Twitter außerhalb des Wettbewerbs einen Bericht über algorithmische Verzerrungen einreichen, sagt das Unternehmen, dass Ihr Bericht geschlossen und als nicht zutreffend markiert wird . Wenn Sie an einer Teilnahme interessiert sind, können Sie auf der HackerOne-Seite des Wettbewerbs die Regeln, Kriterien und mehr einsehen. Einreichungen sind bis zum 6. August um 23:59 Uhr PT möglich und die Gewinner der Herausforderung werden am 9. August im Def Con AI Village bekannt gegeben.