Twitter organise un concours dans l'espoir que les pirates et les chercheurs seront en mesure d'identifier les biais dans son algorithme de recadrage d'images – et il distribuera des prix en espèces aux équipes gagnantes (via Engadget). Twitter espère que donner aux équipes l'accès à son code et à son modèle de recadrage d'image leur permettra de trouver des façons dont l'algorithme pourrait être nocif (comme le recadrage d'une manière qui stéréotype ou efface le sujet de l'image).
Les concurrents devront soumettre une description de leurs résultats et un ensemble de données pouvant être utilisé par l'algorithme pour démontrer le problème. Twitter attribuera ensuite des points en fonction du type de dommages détectés, de l'impact potentiel que cela pourrait avoir sur les personnes, etc.
L'équipe gagnante recevra 3 500 $, et il y a des prix distincts de 1 000 $ pour les découvertes les plus innovantes et les plus généralisables. Ce montant a fait un peu de bruit sur Twitter, avec quelques utilisateurs disant qu'il devrait avoir un zéro supplémentaire. Pour le contexte, le programme normal de prime aux bogues de Twitter vous paierait 2 940 $ si vous trouviez un bogue qui vous permettait d'effectuer des actions pour quelqu'un d'autre (comme retweeter un tweet ou une image) à l'aide de scripts intersites. Trouver un problème OAuth qui vous permet de prendre en charge le compte Twitter de quelqu'un vous rapporterait 7 700 $.
Un concours permet à Twitter d'obtenir des commentaires d'un plus large éventail de points de vue
Twitter a déjà fait ses propres recherches sur son algorithme de recadrage d'images – en mai, il a publié un article sur la façon dont l'algorithme était biaisé, après des accusations selon lesquelles ses prévisualisations étaient racistes. Twitter a principalement supprimé les aperçus de recadrage algorithmique depuis lors, mais il est toujours utilisé sur le bureau et un bon algorithme de recadrage est une chose pratique pour une entreprise comme Twitter.
Ouvrir un concours permet à Twitter d'obtenir des commentaires d'un éventail de perspectives beaucoup plus large. Par exemple, l'équipe Twitter a organisé un espace pour discuter de la compétition au cours de laquelle un membre de l'équipe a mentionné avoir reçu des questions sur les biais basés sur les castes dans l'algorithme, ce qui peut ne pas être remarqué par les développeurs de logiciels en Californie.
Twitter recherche également des moyens d'exploiter son algorithme
Ce n'est pas seulement un biais algorithmique inconscient que Twitter recherche. La rubrique a des valeurs en points pour les dommages intentionnels et non intentionnels. Twitter définit les dommages non intentionnels comme des cultures qui pourraient résulter d'un utilisateur « bien intentionné » publiant une image régulière sur la plate-forme, tandis que les dommages intentionnels sont des comportements de rognage problématiques qui pourraient être exploités par une personne publiant des images conçues de manière malveillante.
Twitter indique dans son blog d'annonce que le concours est distinct de son programme de primes de bogues – si vous soumettez un rapport sur les biais algorithmiques à Twitter en dehors du concours, la société dit que votre rapport sera fermé et marqué comme non applicable . Si vous souhaitez vous inscrire, vous pouvez vous rendre sur la page HackerOne du concours pour voir les règles, les critères et plus encore. Les soumissions sont ouvertes jusqu'au 6 août à 23 h 59, heure du Pacifique, et les gagnants du défi seront annoncés au Def Con AI Village le 9 août.