Twitter har annonceret sin første algoritmiske bias -udfordring, der tilbyder kontantpriser fra $ 500 til $ 3.500 for dem, der kan hjælpe den sociale mediegigant med at identificere en række spørgsmål.
Efter betydelige tilbageslag sidste år indrømmede virksomheden i maj, at dens automatiske beskæringsalgoritme gentagne gange dukkede sorte ansigter ud til fordel for hvide. Det favoriserede også mænd frem for kvinder, ifølge forskning fra Twitter. Flere Twitter -brugere beviste dette ved hjælp af billeder af sig selv eller af berømte figurer, som tidligere præsident Barack Obama.
Rumman Chowdhury, direktør for Twitter META, forklarede, at virksomheden besluttede at ændre algoritmen og indrømmede, at virksomheder som Twitter ofte “finder ud af om utilsigtede etiske skader, når de allerede har nået offentligheden.”
Fredag , Chowdhury og Twitter META -produktchef Jutta Williams afslørede den algoritmiske skævhedskonkurrence, som de sagde var en del af årets DEF CON AI Village.
“I maj delte vi vores tilgang til at identificere bias i vores saltholdighedsalgoritme (også kendt som vores billedbeskæringsalgoritme), og vi stillede vores kode til rådighed for andre til at gengive vores arbejde. Vi vil tage dette arbejde et skridt videre ved at invitere og tilskynde samfundet til at hjælpe med at identificere potentielle skader ved denne algoritme ud over det, vi identificerede os selv, “sagde de to.
Ved oprettelsen af programmet blev de inspireret af, hvordan forsknings- og hackersamfundene hjalp sikkerhedsfeltet med at etablere bedste praksis til at identificere og afbøde sårbarheder for at beskytte offentligheden.
De sagde, at Twitter ønskede at opbygge et lignende fællesskab, men et fokuserede på maskinlæringsetik, der vil hjælpe virksomheden med at “identificere en bredere vifte af spørgsmål, end vi ville være i stand til på egen hånd.”
“Med denne udfordring har vi til formål at skabe præcedens på Twitter og i branchen for proaktiv og kollektiv identifikation af algoritmiske skader,” skrev Chowdhury og Williams.
“Til denne udfordring deler vi vores saliency-model og koden, der bruges til at generere en beskæring af et billede givet et forudsagt maksimalt fremtrædende punkt, og beder deltagerne om at bygge deres egen vurdering. Vellykkede poster vil overveje både kvantitative og kvalitative metoder i deres nærme sig.”
Der er en indsendelsesside på HackerOne, hvor folk kan finde mere information, rubrikken, der blev brugt til at score hver post, og detaljer om, hvordan de skal indtaste. Posterne vil blive bedømt af Ariel Herbert-Voss, Matt Mitchell, Peiter “Mudge” Zatko og Patrick Hall.
Vinderen af førstepladsen får $ 3.500, andenpladsen vinder $ 1.000 og tredjepladsen får $ 500. Der vil også være belønninger på $ 1.000 for de mest innovative og mest generaliserbare. Vinderne af konkurrencen vil blive annonceret på DEF CON AI Village -workshoppen den 8. august.
Williams fortalte ZDNet, at bortset fra at lære mere om billedbeskæringsfunktionen, forventer hun at lære, hvad folk synes “skader” medfører.
“Som produktchef bestræber jeg mig på at sætte mig i skoene hos mennesker, der bruger eller er påvirket af vores produkter for at forstå, hvad et ord som det betyder. Traditionelt hører vi fra folk, der allerede ser på algoritmisk skævhed – og jeg er forventer, at vi vil høre fra et meget bredere fællesskab af mennesker, der vil dele meget perspektiv på, hvad skade betyder for dem, “sagde Williams.
“Rumman flydede ideen med mig og vores CTO efter en samtale med AI Village-arrangørerne-det kræver en temmelig risikotolerant virksomhed at gå først på sådan noget. Twitter-ledelse var villig-begejstret endda. Vi havde ikke meget tid til at lave deadline for DEFCON, så vi to kom lige i gang med at brainstorme, hvordan vi skulle række noget, som vi kunne frigive inden for de få uger, vi var nødt til at træffe en go/no-go-beslutning. ”
Hun tilføjede, at konkurrencen vil gøre Twitter meget klogere på, hvordan den næste begivenhed skal køre og være lærerig i at gøre det lettere for deltagerne og mere inkluderende.
Virksomheden håber også at lære mere om, hvordan deres teknologi muligvis skal rettes med det samme, forklarede Williams og mere om, hvordan de bedre kan forhindre skade. Teamet vil få en bedre forståelse af, hvordan man tester og vurderer algoritmer til bias, sagde Williams.
Williams bemærkede, at der er mange ubekendte inden for det nye studieområde om maskinlæringsbias og få programmer adresserer aktivt algoritmiske risici.
“Jeg har håb om, at vi vil have et par mere ubekendte, som vi kan begynde at arbejde på at løse. Vigtigst af alt, måske vil vi lære om at arbejde med dette fællesskab, måder at bedre måle og klassificere skader, hvad det kræver at validere rapporter, måder at afbøde og/eller forhindre nye skader i fremtiden – som vi alle kan dele tilbage til samfundet, ”sagde Williams.
“Dette blev ikke kørt til vores fordel alene – jeg ville ikke personligt have lagt svedens egenkapital i det, hvis det ikke var målet om ultimativ gennemsigtighed.”
executive guide
Hvad er maskinlæring? Alt hvad du behøver at vide
Sådan hænger det sammen med kunstig intelligens, hvordan det fungerer, og hvorfor det er vigtigt.
Læs mere < /p>
Relaterede emner:
Digital Transformation CXO Internet of Things Innovation Enterprise Software Smart Cities 