Twitter holder en konkurranse i håp om at hackere og forskere vil kunne identifisere skjevheter i algoritmen for bildebeskjæring – og det kommer til å dele ut pengepremier til vinnende lag (via Engadget). Twitter håper at ved å gi team tilgang til koden og bildeskjæringsmodellen, kan de finne måter algoritmen kan være skadelig på (for eksempel beskjæring på en måte som stereotyper eller sletter motivets bilde).
De som konkurrerer må sende inn en beskrivelse av funnene sine, og et datasett som kan kjøres gjennom algoritmen for å demonstrere problemet. Twitter vil deretter tildele poeng basert på hva slags skader man finner, hvor mye det potensielt kan påvirke mennesker og mer.
Vinnerlaget vil bli tildelt $ 3.500, og det er separate $ 1000 premier for de mest innovative og mest generaliserbare funnene. Dette beløpet har skapt litt røre på Twitter, med noen få brukere som sier at det burde ha en ekstra null. For kontekst vil Twitters normale bug bounty-program betale deg $ 2 940 hvis du fant en feil som lar deg utføre handlinger for noen andre (for eksempel retweeting av en tweet eller bilde) ved hjelp av skripting på tvers av nettsteder. Å finne et OAuth -problem som lar deg overta noens Twitter -konto vil gi deg 7 700 dollar.
En konkurranse lar Twitter få tilbakemelding fra et mye bredere perspektiv
Twitter har gjort sin egen undersøkelse av sin algoritme for bildebeskjæring før-i mai publiserte det et papir som undersøkte hvordan algoritmen var partisk, etter beskyldninger om at forhåndsvisningen av avlingene var rasistiske. Twitter har stort sett gjort slutt på algoritmisk beskjæring siden den gang, men den har fortsatt blitt brukt på skrivebordet, og en god beskjæringsalgoritme er nyttig for et selskap som Twitter å ha.
Å åpne en konkurranse lar Twitter få tilbakemeldinger fra et mye bredere spekter av perspektiver. Twitter-teamet hadde for eksempel en plass til å diskutere konkurransen der et teammedlem nevnte å få spørsmål om kastebaserte forstyrrelser i algoritmen, noe som kanskje ikke er merkbart for programvareutviklere i California.
Twitter leter også etter måter algoritmen kan utnyttes
Det er heller ikke bare underbevisst algoritmisk skjevhet Twitter leter etter. Rubrikken har punktverdier for både forsettlige og utilsiktede skader. Twitter definerer utilsiktede skader som avlinger som kan skyldes at en “velmenende” bruker legger ut et vanlig bilde på plattformen, mens forsettlig skade er problematisk beskjæringsatferd som kan utnyttes av noen som legger ut ondsinnet utformede bilder.
Twitter sier i sin kunngjøringsblogg at konkurransen er atskilt fra sitt bug bounty -program – hvis du sender en rapport om algoritmiske skjevheter til Twitter utenfor konkurransen, sier selskapet at rapporten din vil bli lukket og merket som ikke aktuelt . Hvis du er interessert i å bli med, kan du gå til konkurransens HackerOne -side for å se reglene, kriteriene og mer. Innsendingene er åpne til 6. august kl. 23:59 PT, og vinnerne av utfordringen vil bli annonsert i Def Con AI Village 9. august.