Twitter har kunngjort sin første algoritmiske skjevhetsutfordring, og tilbyr kontantpriser fra $ 500 til $ 3500 for de som kan hjelpe den sosiale mediegiganten med å identifisere en rekke problemer.
Etter betydelig tilbakeslag i fjor, innrømmet selskapet i mai at den automatiske beskjæringsalgoritmen gjentatte ganger dukket ut svarte ansikter til fordel for hvite. Det favoriserte også menn fremfor kvinner, ifølge undersøkelser fra Twitter. Flere Twitter -brukere beviste dette ved å bruke bilder av seg selv eller kjente figurer, som tidligere president Barack Obama.
Rumman Chowdhury, direktør for Twitter META, forklarte at selskapet bestemte seg for å endre algoritmen og innrømmet at selskaper som Twitter ofte “finner ut om utilsiktede etiske skader når de allerede har nådd publikum.”
Fredag , Chowdhury og Twitter META produktsjef Jutta Williams avduket den algoritmiske skjevhetskonkurransen, som de sa var en del av årets DEF CON AI Village.
“I mai delte vi vår tilnærming til å identifisere skjevhet i vår fremtidsalgoritme (også kjent som vår billedbeskjæringsalgoritme), og vi gjorde koden vår tilgjengelig for andre for å reprodusere arbeidet vårt. Vi ønsker å ta dette arbeidet et skritt videre ved å invitere og å oppmuntre samfunnet til å identifisere potensielle skader ved denne algoritmen utover det vi identifiserte oss selv, “sa de to.
Ved opprettelsen av programmet ble de inspirert av hvordan forsknings- og hackersamfunnene hjalp sikkerhetsfeltet med å etablere beste praksis for å identifisere og dempe sårbarheter for å beskytte publikum.
De sa at Twitter ønsket å bygge opp et lignende fellesskap, men et fokusert på maskinlæringsetikk som vil hjelpe selskapet “å identifisere et bredere spekter av problemer enn vi ville klare på egen hånd.”
“Med denne utfordringen tar vi sikte på å skape presedens på Twitter og i bransjen for proaktiv og kollektiv identifisering av algoritmiske skader,” skrev Chowdhury og Williams.
“For denne utfordringen deler vi vår fremgangsmåte på nytt og koden som brukes til å generere en beskjæring av et bilde gitt et forutsagt maksimalt fremtredende punkt og ber deltakerne om å bygge sin egen vurdering. Vellykkede oppføringer vil vurdere både kvantitative og kvalitative metoder i sine nærme seg.”
Det er en innsendingsside på HackerOne der folk kan finne mer informasjon, rubrikken som ble brukt til å score hver oppføring og detaljer om hvordan de skal angi. Oppføringene vil bli dømt av Ariel Herbert-Voss, Matt Mitchell, Peiter “Mudge” Zatko og Patrick Hall.
Vinneren av førsteplassen får $ 3.500, andreplassen vinner $ 1.000 og tredjeplassen får $ 500. Det vil også være $ 1000 belønninger for de mest innovative og mest generaliserbare. Vinnere av konkurransen vil bli kunngjort på DEF CON AI Village -verkstedet 8. august.
Williams fortalte ZDNet at annet enn å lære mer om funksjonen for beskjæring av bilder, hun forventer å lære hva folk synes er “skadelig”. medfører.
“Som produktsjef prøver jeg å sette meg selv i skoene til folk som bruker eller påvirkes av produktene våre for å forstå hva et slikt ord betyr. Tradisjonelt hører vi fra folk som allerede ser på algoritmisk skjevhet – og jeg er forventer at vi får høre fra et mye bredere fellesskap av mennesker som vil dele mye perspektiv på hva skade betyr for dem, sier Williams.
“Rumman flytte ideen med meg og vår CTO etter en samtale med AI Village-arrangørene-det tar et ganske risikotolerant selskap å gå først på noe slikt. Twitter-ledelse var villig-entusiastisk selv. Vi hadde ikke mye tid til å sette fristen for DEFCON, så vi to kom rett igjennom å brainstorme hvordan vi skal omfatte noe som vi kunne frigjøre i løpet av de få ukene vi måtte ta en go/no-go-beslutning. ”
Hun la til at konkurransen vil gjøre Twitter mye klokere på hvordan neste arrangement skal kjøres og være lærerikt for å gjøre det lettere for deltakere og mer inkluderende.
Selskapet håper også å lære mer om hvordan teknologien deres kanskje må korrigeres umiddelbart, forklarte Williams og mer om hvordan de bedre kan forhindre skade. Teamet vil få en bedre forståelse av hvordan man tester og vurderer algoritmer for skjevheter, sa Williams.
Williams bemerket at det er mange ukjente i det nye fagfeltet om maskinell læringsskjevhet og få programmer tar aktivt hånd om algoritmiske risikoer.
“Jeg har håp om at vi får noen flere ukjente som vi kan begynne å jobbe med å løse. Viktigst, kanskje, vi skal lære om å jobbe med dette fellesskapet, måter å bedre måle og klassifisere skader, hva som trengs for å validere rapporter, måter å dempe og/eller forhindre nye skader i fremtiden – alt dette kan vi dele tilbake til samfunnet, sier Williams.
“Dette ble ikke kjørt for vår fordel alene – jeg hadde ikke personlig lagt svettekapitalen i det hvis det ikke var målet om ultimate åpenhet.”
lederguide
Hva er maskinlæring? Alt du trenger å vite
Slik er det relatert til kunstig intelligens, hvordan det fungerer og hvorfor det er viktig.
Les mer < /p>
Relaterte emner:
Digital Transformation CXO Internet of Things Innovation Enterprise Software Smart Cities 