New York Civil Liberties Union har lämnat in en stämningsansökan mot US Immigration and Customs Enforcement över förändringar i myndighetens Risk-Klassificering Bedömning (RCA) programvara, som används när ISEN håller någon för utvisning förfaranden. Verktyget ger en algoritm baserad rekommendation om huruvida en invandrare bör hållas i fängelse tills de kan se en domare — eller om de i stället kan släppas på bond i tiden.
Men NYCLU hävdar att i och med 2017, IS ändras RCA-så att det överväldigande började förmån frihetsberövande över utgivningen. Det blev standard, garanterat rekommendation även för personer med liten eller ingen kriminell historia. “Programmet har nu automatiskt rekommenderar att alla invandrare ska häktas,” unionen skrev i ett blogginlägg. “En IS officer granska deras fall har att manuellt åsidosätta rekommendation.”
Dessa dagar, ISEN är knappt släppa någon på bond. Reuters rapporterade att antalet invandrare utan kriminellt förflutet som IS bokade i förvar tredubblats på ett år till mer än 43.000 från 2016 till 2017. I höst har det totala antalet personer i ICE förvar varje dag nått sin högsta punkt någonsin.
Och invandrare är inte bara att vänta ett par dagar eller en vecka för att få framför en domare för deras nästa tillfälle för release, med NYCLU att notera att “median väntetid är nu 80 dagar” i New York-området — en ökning från 42 dagar förra året.
ICE vägrade att påskynda en FOIA begäran och NYCLU säger sina försök att samla mer information om ändringar som görs i verktyget har uppfyllts med “radio tystnad.” Den NYCLU är att vända sig till rättegången på grund av att “allmänheten behöver veta mer om hur ISEN fattar beslut om huruvida eller inte att släppa människor, och varför så många som är berättigade till release fortsätta att vara fängslad.”
I sina klagomål med US District Court for the Southern District of New York, NYCLU “strävar efter en så övertygande ISEN för att göra en grundlig sökning för alla lyhörd poster, omedelbart process som alla ligger poster, skyndsamt lämna ut de efterfrågade poster i sin helhet och göra kopior tillgängliga för NYCLU, och tilldela NYCLU kostnader och rimliga advokatkostnader som uppkommit i denna åtgärd.”
Bortsett från detta ICE exempel riskbedömning algoritmer som används av vissa fängelser i att bestämma vem som ska få villkorlig frigivning. Stater försöker genomföra dem under förutsättningen att de kunde rensa ut rasistiska fördomar och göra rättvisare domar. Pennsylvania har försökt att komma med ett år — men nu lagstiftare vill skrota hela projektet, som rapporterats av Philly Inquirer. Tidigare i år, Gränsen publicerade ett inslag om skador orsakade av en dålig hälso-och sjukvård algoritm som hade skurit vård för intet ont anande privatpersoner. Algoritmer är en bra sak i många sammanhang, men det finns tydliga argument för varför vi inte borde vila varje beslut med dem. I IS är fallet, byrån verkar ha justerat den riskbedömning algoritm för att återspegla en strängare invandringspolitik.