New York Civil Liberties Union, der har indgivet en retssag mod Immigration and Customs Enforcement over ændringer i agenturets Risiko Klassificering Vurdering (RCA) – software, der bruges, når ISEN tilbageholder nogen for udvisning. Værktøjet giver en algoritme-baserede anbefaling om, hvorvidt en indvandrer bør være frihedsberøvet i fængsel, indtil de kan se en dommer — eller om de i stedet kan blive udgivet på bond i den mellemliggende periode.
Men NYCLU hævder, at i 2017, IS ændret RCA så, at det overvældende flertal i gang til fordel tilbageholdelse over udgivelsen. Det blev den standard, der er garanteret anbefaling, selv for folk med ringe eller ingen kriminel fortid. “Programmet nu automatisk anbefaler, at alle indvandrere, der tilbageholdes,” eu-skrev i et blogindlæg. “En IS officer at gennemgå deres sag for manuelt at tilsidesætte anbefaling.”
Disse dage, er ISEN er næppe frigive alle på tykt papir. Reuters rapporterede, at antallet af indvandrere med ikke kriminelle historie, der IS booket ind tilbageholdelse tredoblet på et år til mere end 43,000 fra 2016 til 2017. Dette efterår, at det samlede antal personer i ICE tilbageholdelse hver dag nået sit højeste punkt nogensinde.
Og indvandrere ikke bare vente et par dage eller en uge at komme foran en dommer for deres næste mulighed for slip, med NYCLU at bemærke, at “den mediane ventetid er nu 80 dage” i New York City-området — en stigning fra 42 dage sidste år.
ICE nægtede at fremskynde en FOIA anmodning, og NYCLU siger sit forsøg på at indsamle mere information om ændringer, der er foretaget af er blevet mødt med “radio tavshed”. Den NYCLU er ved at vende til sagen, fordi “det offentlige har behov for at vide mere om, hvordan IS gør beslutninger om, hvorvidt eller ikke at frigive folk, og hvorfor så mange, der er berettiget til fortsæt for at blive tilbageholdt.”
I sin klage indgivet til den AMERIKANSKE District Court for the Southern District of New York, NYCLU “har til formål overbevisende ISEN til at foretage en grundig søgning for alle lydhør over poster, skal du straks behandle alle beliggende poster, straks oplyse den ønskede poster i deres helhed og gøre kopier tilgængelige til NYCLU, og tildele NYCLU omkostninger og rimelige advokatsalærer, der er afholdt i denne sag.”
Bortset fra denne IS eksempel, risikovurdering algoritmer, der benyttes af nogle fængsler i at beslutte, hvem der skal modtage prøveløsladelse. Stater forsøger at gennemføre dem under den forudsætning, at de kunne frasortere racemæssige fordomme og gøre straffedomme mere retfærdig. Pennsylvania har forsøgt at komme med et år — men nu lovgivere ønsker at skrotte hele projektet, som rapporteret af Philly Inquirer. Tidligere dette år, Randen offentliggjort en funktion på skaderne som følge af en dårlig sundhedspleje algoritme, der havde skåret sig til intetanende personer. Algoritmer er en nyttig ting i mange sammenhænge, men der er klare argumenter for, hvorfor vi bør ikke hvile, hvert afgørelse med dem. I IS ‘ s tilfælde, agenturet synes at have justeret risikovurdering algoritme til at afspejle en mere restriktive indvandringspolitik.