Twitter afholder en konkurrence i håb om, at hackere og forskere vil være i stand til at identificere skævheder i sin billedbeskæringsalgoritme – og det vil uddele pengepræmier til vindende hold (via Engadget). Twitter håber, at ved at give teams adgang til dens kode og billedbeskæringsmodel kan de finde måder, hvorpå algoritmen kan være skadelig (f.eks. Beskæring på en måde, der stereotyper eller sletter billedets emne).
De konkurrerende skal indsende en beskrivelse af deres fund og et datasæt, der kan køres gennem algoritmen for at demonstrere problemet. Twitter vil derefter tildele point baseret på, hvilken slags skade der findes, hvor meget det potentielt kan påvirke mennesker og mere.
Det vindende hold vil blive tildelt $ 3.500, og der er separate $ 1.000 præmier for de mest innovative og mest generaliserbare fund. Det beløb har skabt lidt opsigt på Twitter, hvor et par brugere sagde, at det skulle have et ekstra nul. For kontekst ville Twitters normale bug bounty-program betale dig $ 2.940, hvis du fandt en fejl, der lader dig udføre handlinger for en anden (som at retweete et tweet eller billede) ved hjælp af cross-site scripting. Hvis du finder et OAuth -problem, der lader dig overtage en andens Twitter -konto, vil du få $ 7.700 i netto.
En konkurrence lader Twitter få feedback fra en meget bredere vifte af perspektiver
Twitter har tidligere foretaget sin egen undersøgelse af sin billedbeskæringsalgoritme-i maj offentliggjorde det et papir, der undersøgte, hvordan algoritmen var forudindtaget, efter beskyldninger om, at dens forhåndsvisninger afgrøder var racistiske. Twitter har for det meste gjort op med algoritmisk beskæring af forhåndsvisninger siden da, men det er stadig brugt på skrivebordet, og en god beskæringsalgoritme er en praktisk ting for en virksomhed som Twitter at have.
Åbning af en konkurrence lader Twitter få feedback fra en meget bredere vifte af perspektiver. For eksempel havde Twitter-teamet plads til at diskutere konkurrencen, hvor et teammedlem nævnte at få spørgsmål om kaste-baserede skævheder i algoritmen, noget som måske ikke er mærkbart for softwareudviklere i Californien.
Twitter leder også efter måder, dens algoritme kan udnyttes
Det er heller ikke kun ubevidst algoritmisk bias, Twitter leder efter. Rubriken har punktværdier for både forsætlige og utilsigtede skader. Twitter definerer utilsigtede skader som afgrøder, der kan skyldes, at en “velment” bruger lægger et almindeligt billede ud på platformen, hvorimod forsætlige skader er problematisk beskæringsadfærd, der kan udnyttes af en person, der sender ondsindet designede billeder.
Twitter siger i sin meddelelsesblog, at konkurrencen er adskilt fra sit bug bounty -program – hvis du sender en rapport om algoritmiske skævheder til Twitter uden for konkurrencen, siger virksomheden, at din rapport vil blive lukket og markeret som ikke relevant . Hvis du er interesseret i at deltage, kan du gå over til konkurrencens HackerOne -side for at se reglerne, kriterierne og mere. Indsendelserne er åbne indtil den 6. august kl. 23:59 PT, og vinderne af udfordringen offentliggøres i Def Con AI Village den 9. august.