Twitter sta organizzando un concorso nella speranza che hacker e ricercatori siano in grado di identificare i pregiudizi nel suo algoritmo di ritaglio delle immagini e distribuirà premi in denaro ai team vincitori (tramite Engadget). Twitter spera che dare ai team l'accesso al proprio codice e al modello di ritaglio delle immagini consentirà loro di trovare modi in cui l'algoritmo potrebbe essere dannoso (ad esempio ritagliare in modo da stereotipare o cancellare il soggetto dell'immagine).
I concorrenti dovranno presentare una descrizione dei loro risultati e un set di dati che può essere eseguito attraverso l'algoritmo per dimostrare il problema. Twitter assegnerà quindi punti in base al tipo di danni riscontrati, a quanto potrebbe potenzialmente influenzare le persone e altro ancora.
La squadra vincitrice riceverà $ 3.500 e ci sono premi separati di $ 1.000 per i risultati più innovativi e più generalizzabili. Tale importo ha suscitato un po' di scalpore su Twitter, con alcuni utenti che affermano che dovrebbe avere uno zero in più. Per il contesto, il normale programma di bug bounty di Twitter ti pagherebbe $ 2.940 se trovassi un bug che ti consente di eseguire azioni per qualcun altro (come ritwittare un tweet o un'immagine) utilizzando lo scripting tra siti. Trovare un problema OAuth che ti consente di rilevare l'account Twitter di qualcuno ti farebbe guadagnare $ 7.700.
Un concorso consente a Twitter di ottenere feedback da una gamma molto più ampia di prospettive
Twitter ha già svolto le proprie ricerche sul suo algoritmo di ritaglio delle immagini: a maggio ha pubblicato un articolo che indagava su come l'algoritmo fosse distorto, dopo le accuse che le sue anteprime erano razziste. Da allora Twitter ha per lo più eliminato le anteprime di ritaglio algoritmico, ma è ancora utilizzato sul desktop e un buon algoritmo di ritaglio è una cosa utile per un'azienda come Twitter.
Aprire una competizione consente a Twitter di ottenere feedback da una gamma molto più ampia di prospettive. Ad esempio, il team di Twitter ha tenuto uno spazio per discutere della competizione durante la quale un membro del team ha menzionato di aver ricevuto domande sui pregiudizi di casta nell'algoritmo, qualcosa che potrebbe non essere notato dagli sviluppatori di software in California.
Twitter sta anche cercando modi in cui il suo algoritmo potrebbe essere sfruttato
Non si tratta solo di pregiudizi algoritmici subconsci che Twitter sta cercando. La rubrica ha valori in punti per danni sia intenzionali che non intenzionali. Twitter definisce i danni non intenzionali come ritagli che potrebbero derivare da un utente “ben intenzionato” che pubblica un'immagine normale sulla piattaforma, mentre i danni intenzionali sono comportamenti di ritaglio problematici che potrebbero essere sfruttati da qualcuno che pubblica immagini malintenzionate.
Twitter afferma nel suo blog di annunci che la competizione è separata dal suo programma di bug bounty: se invii una segnalazione sui pregiudizi algoritmici a Twitter al di fuori della competizione, la società afferma che la tua segnalazione verrà chiusa e contrassegnata come non applicabile . Se sei interessato a unirti, puoi andare alla pagina HackerOne della competizione per vedere le regole, i criteri e altro. Le iscrizioni sono aperte fino al 6 agosto alle 23:59 PT e i vincitori della sfida saranno annunciati al Def Con AI Village il 9 agosto.