Twitter håller en tävling i hopp om att hackare och forskare kommer att kunna identifiera fördomar i sin bildskärningsalgoritm – och det kommer att delas ut pengar till vinnande lag (via Engadget). Twitter hoppas att genom att ge team åtkomst till dess kod- och bildskärningsmodell kan de hitta sätt att algoritmen kan vara skadlig (som att den beskär på ett sätt som stereotyper eller raderar bildens ämne).
De som tävlar måste skicka in en beskrivning av sina resultat och en datamängd som kan köras genom algoritmen för att demonstrera problemet. Twitter kommer sedan att tilldela poäng baserat på vilken typ av skador som hittas, hur mycket det potentiellt kan påverka människor och mer.
Det vinnande laget kommer att tilldelas 3 500 dollar, och det finns separata priser på 1 000 dollar för de mest innovativa och mest generaliserbara resultaten. Det beloppet har väckt lite uppståndelse på Twitter, med några användare som säger att det borde ha en extra nolla. För sammanhang skulle Twitters normala bug bounty-program betala dig 2 940 dollar om du hittade ett fel som låter dig utföra åtgärder för någon annan (som att retweeta en tweet eller bild) med hjälp av skript över flera webbplatser. Att hitta ett OAuth -problem som låter dig ta över någons Twitter -konto skulle ge dig 7 700 dollar.
En tävling låter Twitter få feedback från ett mycket bredare perspektiv
Twitter har gjort sin egen forskning om sin bildskärningsalgoritm tidigare-i maj publicerade det ett papper som undersökte hur algoritmen var partisk, efter anklagelser om att dess förhandsgranskningar var rasistiska. Twitter har för det mesta gjort slut med algoritmiskt beskärande förhandsvisningar sedan dess, men det har fortfarande använts på skrivbordet och en bra beskärningsalgoritm är en praktisk sak för ett företag som Twitter att ha.
Öppna en tävling låter Twitter få feedback från ett mycket bredare perspektiv. Till exempel hade Twitter-teamet utrymme att diskutera tävlingen under vilken en teammedlem nämnde att få frågor om kastbaserade fördomar i algoritmen, något som kanske inte märks av mjukvaruutvecklare i Kalifornien.
Twitter letar också efter sätt som dess algoritm kan utnyttjas
Det är inte bara undermedvetet algoritmiskt parti som Twitter letar efter. Rubriken har punktvärden för både avsiktliga och oavsiktliga skador. Twitter definierar oavsiktliga skador som grödor som kan bero på att en “välmenad” användare lägger upp en vanlig bild på plattformen, medan avsiktliga skador är problematiska beskärningsbeteenden som kan utnyttjas av någon som publicerar skadligt utformade bilder.
Twitter säger i sin tillkännagivandeblogg att tävlingen är separat från sitt bug bounty -program – om du skickar en rapport om algoritmiska fördomar till Twitter utanför tävlingen säger företaget att din rapport kommer att stängas och markeras som inte tillämplig . Om du är intresserad av att gå med kan du gå till tävlingens HackerOne -sida för att se regler, kriterier och mer. Bidragen är öppna till den 6 augusti kl 23:59 PT, och vinnarna av utmaningen kommer att tillkännages i Def Con AI Village den 9 augusti.