Twitter har meddelat sin första algoritmiska bias -utmaning, som erbjuder kontantpriser från $ 500 till $ 3500 för dem som kan hjälpa den sociala mediejätten att identifiera en rad frågor.
Efter betydande motreaktion förra året erkände företaget i maj att dess automatiska beskärningsalgoritm upprepade gånger drog ut svarta ansikten till förmån för vita. Det gynnade också män framför kvinnor, enligt forskning från Twitter. Flera Twitter -användare bevisade detta med hjälp av bilder av sig själva eller av kända figurer, som tidigare president Barack Obama.
Rumman Chowdhury, chef för Twitter META, förklarade att företaget bestämde sig för att ändra algoritmen och erkände att företag som Twitter ofta “får reda på oavsiktliga etiska skador när de redan har nått allmänheten.”
På fredagen , Chowdhury och Twitter META -produktchef Jutta Williams presenterade den algoritmiska partiskhetstävlingen, som de sa var en del av årets DEF CON AI Village.
“I maj delade vi vårt tillvägagångssätt för att identifiera fördomar i vår algoritm för framträdande (även känd som vår bildbeskärningsalgoritm), och vi gjorde vår kod tillgänglig för andra för att reproducera vårt arbete. Vi vill ta detta arbete ett steg längre genom att bjuda in och uppmuntra gemenskapen att hjälpa till att identifiera potentiella skador av denna algoritm utöver vad vi identifierade oss själva, “sa de två.
När de skapade programmet inspirerades de av hur forsknings- och hackersamhällena hjälpte säkerhetsområdet att upprätta bästa praxis för att identifiera och mildra sårbarheter för att skydda allmänheten.
De sa att Twitter ville bygga upp en liknande gemenskap, men en fokuserade på maskininlärningsetik som hjälper företaget att “identifiera ett bredare spektrum av frågor än vi skulle kunna på egen hand.”
“Med denna utmaning strävar vi efter att skapa prejudikat på Twitter och i branschen för proaktiv och kollektiv identifiering av algoritmiska skador”, skrev Chowdhury och Williams.
“För denna utmaning delar vi om vår saliency-modell och koden som används för att generera en bild av en bild med en förutsagd maximalt framträdande punkt och ber deltagarna att bygga sin egen bedömning. Framgångsrika poster kommer att överväga både kvantitativa och kvalitativa metoder i sina närma sig.”
Det finns en inlämningssida på HackerOne där människor kan hitta mer information, rubriken som används för att göra poäng för varje post och detaljer om hur man går in. Bidragen kommer att bedömas av Ariel Herbert-Voss, Matt Mitchell, Peiter “Mudge” Zatko och Patrick Hall.
Vinnaren på förstaplatsen får $ 3500, andraplatsen får $ 1000 och tredje plats får $ 500. Det blir också $ 1000 belöningar för de mest innovativa och mest generaliserbara. Vinnare av tävlingen kommer att tillkännages på DEF CON AI Village -workshopen den 8 augusti.
Williams berättade för ZDNet att hon, förutom att lära sig mer om fotoskärningsfunktionen, förväntar sig att lära sig vad folk tycker “skadar” innebär.
“Som produktchef försöker jag sätta mig i skorna för människor som använder eller påverkas av våra produkter för att förstå vad ett sådant ord betyder. Traditionellt hör vi från människor som redan tittar på algoritmisk snedvridning – och jag är förväntar oss att vi kommer att höra från en mycket bredare gemenskap av människor som kommer att dela mycket perspektiv på vad skada betyder för dem, säger Williams.
“Rumman förde fram tanken med mig och vår CTO efter ett samtal med AI Village-arrangörerna-det tar ett ganska risktolerant företag att gå först på något sådant här. Twitterledarskap var villigt-entusiastiskt till och med. Vi hade inte mycket tid att göra tidsfristen för DEFCON, så vi två började med att brainstorma hur vi skulle kunna nå något som vi kunde släppa inom några veckor som vi var tvungna att fatta ett go/no-go-beslut. ”
Hon tillade att tävlingen kommer att göra Twitter mycket klokare om hur nästa evenemang ska gå och vara lärorikt för att göra det enklare för deltagarna och mer inkluderande.
Företaget hoppas också kunna lära sig mer om hur deras teknik kan behöva korrigeras omedelbart, förklarade Williams och mer om hur de bättre kan förebygga skada. Teamet kommer att få en bättre förståelse för hur man testar och bedömer algoritmer för fördomar, sa Williams.
Williams noterade att det finns många okända inom det framväxande studieområdet om maskininlärningsfördomar och få program tar aktivt hand om algoritmiska risker.
“Jag har hopp om att vi kommer att ha några fler okända som vi kan börja arbeta med att lösa. Det viktigaste är kanske att vi lär oss om att arbeta med detta samhälle, sätt att bättre mäta och klassificera skador, vad som krävs för att validera rapporter, sätt att mildra och/eller förhindra nya skador i framtiden – allt detta kan vi dela tillbaka till samhället, säger Williams.
“Det här sköts inte enbart för vår fördel – jag hade personligen inte lagt ner svettkapitalet i det om det inte var målet om ultimat transparens.”
verkställande guide
Vad är maskininlärning? Allt du behöver veta
Så här är det relaterat till artificiell intelligens, hur det fungerar och varför det spelar roll.
Läs mer < /p>
Relaterade ämnen:
Digital Transformation CXO Internet of Things Innovation Enterprise Software Smart Cities 