Gizmodo släppte en djupdykning i datainsamlingsprocessen bakom sin samrapporterade undersökning med The Markup in PredPol, ett mjukvaruföretag som specialiserat sig på förutseende polisarbete (därav namnet, som det sedan har ändrat till Geolitica) genom maskininlärning.
PredPols algoritm är tänkt att göra förutsägelser baserade på befintliga brottsrapporter. Men eftersom brott inte rapporteras lika överallt, kan läsningarna som den ger till brottsbekämpande myndigheter helt enkelt kopiera fördomarna i rapporteringen över varje område. Om polisen använder detta för att bestämma var de ska patrullera, kan de sluta med att överpolisa områden som inte behöver en större närvaro.
När Gizmodo och The Markup utvärderade områdena fann de att de platser som PredPols programvara var inriktad på ökad patrullering “var mer sannolikt hem för svarta, latinos och familjer som skulle kvalificera sig för det federala gratis och reducerade lunchprogrammet.”
23 av de 38 brottsbekämpande myndigheterna som spåras är inte längre PredPol-kunder
Även när polisens taktik utvecklades till att inkludera brotts- och arresteringsdata, har det funnits en historisk skillnad i hur dessa taktik påverkar färgsamhällen. Som Gizmodo påpekar i sin analys fann forskare i New York på 1990-talet att metoderna minskade brottsligheten utan att bara förskjuta den till andra områden. Men tillvägagångssättet inkluderade taktik som stoppa-och-frisk, som har kritiserats som kränkningar av medborgerliga rättigheter.
PredPols algoritm har redan undersökts och kritiserats av akademiker mer än en gång. Som Vice citerade Suresh Venkatasubramanian, en styrelseledamot för ACLU Utah, 2019:
“Eftersom denna data samlas in som en biprodukt av polisverksamhet, hänför sig förutsägelser gjorda på grundval av mönster från dessa data inte till framtida fall av brott på det hela taget,” noterar Venkatasubramanians studie. “I denna mening heter förutsägande polisarbete ett passande namn: det förutsäger framtida polisarbete, inte framtida brott.”
Ändå har det inte gjorts en så grundlig utredning som den här. Denna undersökning använde siffror som hämtats från offentlig information tillgänglig via webben. Enligt Gizmodo och The Markup hittade de en osäkrad molndatabas länkad från Los Angeles Police Departments webbplats. Dessa uppgifter innehöll miljontals förutsägelser som sträcker sig flera år tillbaka i tiden.
Förutom att förutsäga individuella brott, undersökte en rapport från The Verge 2018 Pentagon-finansierad forskning av PredPols grundare Jeff Brantingham om att använda programvaran för att förutsäga gängrelaterad brottslighet. Den tidigare antropologiprofessorn vid University of California-Los Angeles anpassade tidigare forskning för att prognostisera dödsoffer på slagfältet i Irak för att skapa plattformen, och artikeln – “Partially Generative Neural Networks for Gang Crime Classification with Partial Information” – väckte oro över de etiska implikationerna.< /p>
Kritiker sa att detta tillvägagångssätt kan göra mer skada än nytta. “Du skapar algoritmer av en falsk berättelse som har skapats för människor – gängdokumentationen är att staten definierar människor utifrån vad de tror … När du kopplar in detta till datorn kommer varje brott att vara gängrelaterat, ” berättade aktivisten Aaron Harvey för The Verge.
Att förlita sig på vissa algoritmer kan vara magiskt för vissa branscher, men deras inverkan kan komma till en verklig mänsklig kostnad. Med dålig data eller fel parametrar kan saker gå fel snabbt, även under omständigheter som är mindre ansträngda än polisarbete. Du behöver inte leta längre än att Zillow nyligen var tvungen att stänga av sin husflipping efter att ha förlorat hundratals miljoner dollar trots “prismodellerna och automatiseringen” som man trodde skulle ge en fördel.
Sammantaget , Gizmodo och The Markups rapportering är en bra övervägande av hur avsevärt prediktiva algoritmer kan påverka de personer som omedvetet riktas mot dem. Den medföljande analysen av Gizmodo ger relevant datainsikt samtidigt som läsarna får en inblick i dessa åtgärder bakom kulisserna. Rapporten indikerar att 23 av de 38 brottsbekämpande myndigheterna som spåras inte längre är PredPol-kunder, trots att de först registrerade sig för det för att hjälpa till att distribuera resurser för att stoppa brott. Kanske genom att använda metoder som bygger transparens och förtroende på båda sidor, skulle brottsbekämpande myndigheter kunna lägga mindre tid på teknik som leder till bitar som denna, vilket belyser den raka motsatta strategin.