Twitter heeft zijn eerste algoritmische bias bounty-uitdaging aangekondigd, met contante prijzen variërend van $ 500 tot $ 3.500 voor degenen die de socialemediagigant kunnen helpen bij het identificeren van een reeks problemen.
Na een aanzienlijke terugslag vorig jaar, gaf het bedrijf in mei toe dat het automatische bijsnijdalgoritme herhaaldelijk zwarte gezichten uitsneed ten gunste van witte. Het gaf ook de voorkeur aan mannen boven vrouwen, blijkt uit onderzoek van Twitter. Meerdere Twitter-gebruikers bewezen dit met foto's van zichzelf of van bekende figuren, zoals voormalig president Barack Obama.
Rumman Chowdhury, directeur van Twitter META, legde uit dat het bedrijf besloot het algoritme te veranderen en gaf toe dat bedrijven zoals Twitter vaak “te weten komen over onbedoelde ethische schade zodra ze het publiek al hebben bereikt.”
Op vrijdag , Chowdhury en Twitter META-productmanager Jutta Williams onthulden de algoritmische bias-bounty-competitie, waarvan ze zeiden dat deze deel uitmaakte van de DEF CON AI Village van dit jaar.
“In mei hebben we onze aanpak voor het identificeren van vooroordelen in ons saliency-algoritme (ook bekend als ons algoritme voor het bijsnijden van afbeeldingen) gedeeld, en we hebben onze code beschikbaar gemaakt voor anderen om ons werk te reproduceren. We willen dit werk een stap verder brengen door uit te nodigen en het stimuleren van de gemeenschap om mogelijke schade van dit algoritme te helpen identificeren die verder gaat dan wat we zelf hebben geïdentificeerd”, aldus de twee.
Bij het maken van het programma werden ze geïnspireerd door hoe de onderzoeks- en hackergemeenschappen het beveiligingsveld hielpen bij het vaststellen van best practices voor het identificeren en verminderen van kwetsbaarheden om het publiek te beschermen.
Ze zeiden dat Twitter een vergelijkbare community wilde uitbouwen, maar een die gericht was op de ethiek van machine learning die het bedrijf zal helpen “een breder scala aan problemen te identificeren dan we alleen zouden kunnen”.
“Met deze uitdaging willen we een precedent scheppen op Twitter en in de industrie, voor proactieve en collectieve identificatie van algoritmische schade”, schreven Chowdhury en Williams.
“Voor deze uitdaging delen we ons saliency-model en de code die wordt gebruikt om een uitsnede van een afbeelding te genereren, gegeven een voorspeld maximaal opvallend punt, opnieuw en vragen we deelnemers om hun eigen beoordeling te maken. Succesvolle inzendingen zullen zowel kwantitatieve als kwalitatieve methoden in hun nadering.”
Er is een inzendingspagina op HackerOne waar mensen meer informatie kunnen vinden, de rubriek die wordt gebruikt om elke inzending te scoren en details over hoe ze kunnen deelnemen. De inzendingen worden beoordeeld door Ariel Herbert-Voss, Matt Mitchell, Peiter “Mudge” Zatko en Patrick Hall.
De winnaar van de eerste plaats krijgt $ 3.500, de winnaar van de tweede plaats krijgt $ 1.000 en de derde plaats krijgt $ 500. Er zullen ook $ 1.000 beloningen zijn voor de meest innovatieve en meest generaliseerbare. De winnaars van de wedstrijd worden bekendgemaakt tijdens de DEF CON AI Village-workshop op 8 augustus.
Williams vertelde ZDNet dat ze niet alleen meer te weten komt over de functie voor het bijsnijden van foto's, maar ook verwacht te leren wat mensen denken dat “schade” kan veroorzaken. met zich meebrengt.
“Als productmanager probeer ik mezelf in de schoenen te plaatsen van mensen die onze producten gebruiken of erdoor worden beïnvloed om te begrijpen wat een woord als dat betekent. Traditioneel horen we van mensen die al kijken naar algoritmische vooringenomenheid — en ik ben in de verwachting dat we zullen horen van een veel bredere gemeenschap van mensen die veel perspectief zullen delen over wat schade voor hen betekent”, zei Williams.
“Rumman bracht het idee met mij en onze CTO naar voren na een gesprek met de AI Village-organisatoren – er is een behoorlijk risicotolerant bedrijf voor nodig om als eerste te beginnen met zoiets. Twitter-leiderschap was bereid – zelfs enthousiast. We hadden geen we hadden veel tijd om de deadline voor DEFCON te halen, dus we gingen meteen brainstormen over hoe we iets konden uitbrengen dat we konden uitbrengen binnen de paar weken die we moesten nemen om een go/no-go-beslissing te nemen.”
Ze voegde eraan toe dat de wedstrijd Twitter veel wijzer zal maken over hoe het volgende evenement moet verlopen en leerzaam zal zijn om het voor deelnemers gemakkelijker en inclusiever te maken.
Het bedrijf hoopt ook meer te weten te komen over hoe hun technologie mogelijk onmiddellijk moet worden gecorrigeerd, legde Williams uit, en meer over hoe ze schade beter kunnen voorkomen. Het team zal een beter begrip krijgen van het testen en beoordelen van algoritmen voor vooroordelen, zei Williams.
Williams merkte op dat er veel onbekenden zijn in het opkomende vakgebied over de vooringenomenheid van machine learning en dat weinig programma's actief algoritmische risico's aanpakken.
“Ik hoop dat we nog een paar onbekenden hebben die we kunnen gaan oplossen. Het belangrijkste is misschien dat we leren over het werken met deze gemeenschap, manieren om schade beter te meten en te classificeren, wat er nodig is om te valideren rapporten, manieren om nieuwe schade in de toekomst te beperken en/of te voorkomen — die we allemaal kunnen delen met de gemeenschap”, zei Williams.
“Dit is niet alleen in ons voordeel uitgevoerd — ik zou er persoonlijk niet in hebben geïnvesteerd als het niet voor het doel van ultieme transparantie was geweest.”
uitvoerende gids
Wat is machine learning? Alles wat u moet weten
Hier leest u hoe het verband houdt met kunstmatige intelligentie, hoe het werkt en waarom het ertoe doet.
Meer lezen < /p>
Verwante onderwerpen:
Digitale transformatie CXO Internet of Things Innovatie Enterprise Software Smart Cities 