Nul
Kinderen zo jong als 10 zijn toegevoegd aan de NSW Politie Vermoedt Targeting Management Plan (SMTP), uitgekozen voor een stop-and-zoeken en verplaatsen-de routebeschrijving wanneer de politie ze tegenkomt. Maar hoe en waarom dat gebeurt is geheim.
Dit gebrek aan transparantie zijn de personen achter met de vraag of hun ras of familie geschiedenis een factor is geweest.
Het is een redelijke angst, gegeven het bewijs dat de algoritmen kunnen leren geslacht en raciale vooroordelen uit onze eigen vooringenomen taal, of dat de algoritmen ontwikkeld voor de blanke huid hebben moeite met mensen van kleur.
“[Algoritmen] zijn, in feite, reflecties van hoe de wereld werkt, en als zodanig zijn ze bezaaid met menselijke vooroordelen en gebrekkige logica. We hebben gezien algoritmen die werden racistische, seksistische, heteronormative, hevige concurrentie, de wet te breken, en agressief American — en dat zijn alleen degenen die we kennen,” zei professor Genevieve Bell, in de laatste van haar vier Boyer Lezingen eerder deze maand.
SMTP kan goed worden codering bestaande politiewerk vooroordelen.
Volgens de Jeugd Justitie Coalitie (YJC), de gegevens die zij hebben weten te verkrijgen, blijkt dat SMTP “onevenredig doelen jonge mensen, in het bijzonder de Aboriginal en Torres Strait Islander mensen”.
“Jonge mensen ervaren de SMTP als een patroon van een onderdrukkende, onrechtvaardig politiewerk,” schreef YJC onderzoekers Dr. Vicki Sentas en Camilla Pandolfini, in hun rapport Politiewerk Jongeren in zuid-holland gepubliceerd op woensdag.
“[Deze] ervaring in een patroon van voortdurende intimidatie door de politie met inbegrip van het gebruik van controlebevoegdheden van de politie, presentaties bij de jongere thuis verwant aan de borgtocht van de controles (hoewel de jongere kan niet op borgtocht bij de tijd), en gaan routebeschrijvingen,” de onderzoekers schreven.
“In sommige gevallen, de SMTP wordt gebruikt door de politie als een substituut voor dat er ‘redelijke gronden heeft om te vermoeden’ dat de jongere heeft gepleegd, of gaat over tot het plegen van een delict.”
Een case study van het rapport is over Dean, een 16-jaar oude man. Zijn advocaat beschrijft zijn beledigende als ‘kleine en niet uitgebreid”, die vooral betrekking heeft op graffiti, plus een waarschuwing voor het bezit van cannabis en voor een kleine overtreding, misdrijf.
Dean is gestopt en doorzocht 23 keer in 10 maanden. De politie records tonen van de rechtvaardiging met inbegrip van “personen van belang die het dragen van Nautica kleding ‘bekend om het plegen van strafbare schade delicten’ (graffiti); die jonge mensen die op het laatste rijtuig van een trein en het dragen van Nautica zijn bekend om het plegen van strafbare schade, en dat Dean was met een groep van jonge mensen.”
Jonge mensen hebben zich onderworpen aan een SMTP-ook al hebben ze alleen kleine, niet-gewelddadige voorafgaande veroordelingen — of nog geen eerdere veroordelingen op alle, alleen maar uitgebreid contact met de politie, via familie verbindingen, bijvoorbeeld.
In de 10 politie-Lokale Opdrachten (LACs), waarvoor de onderzoekers verkregen gegevens, 44 procent van degenen die op de SMTP werden geïdentificeerd als Aboriginal. Het hoogste percentage werd in Redfern LAC, waar 60 procent van de mensen die gericht waren Aboriginals, hoewel “slechts 2 procent van de Redfern bevolking is Inheems”.
Het verslag van een incident wanneer een 13-jaar oude Aboriginal jongen werd benaderd door de politie toen hij zat te wachten op een bus. “Ze vroegen naar Bill’ s naam en zei toen: woorden om het effect van ‘Wij herinneren u [andere plaats], je bent een stelende kleine hond”, ” de onderzoekers schreven. Niet een ongewoon voorval, het lijkt.
Terwijl de problemen van het gedrag van de politie zijn voorbij ZDNet bevoegdheden, belangrijke vragen blijven.
Heeft SMTP gewoon nagemaakt van bestaande vooroordelen, omdat het is gebaseerd op de gegevens van het politiewerk processen die mogelijk al impliciete vooroordelen? Is het model gebruikt voor het voorspellen van het potentieel voor toekomstige strafbare feiten geldig? Doet waardoor iemand op de SMTP-het risico van het verhogen van de kans op ongunstige politie ontmoetingen?
En de belangrijkste …
Waarom is dit proces, niet alleen de algoritmes, maar ook gewoon de brede, conceptuele model, een geheim? Waarom zijn die mensen niet verteld of ze nu op de SMTP of niet? Waarom kunnen ze niet weten hoe te krijgen uit de lijst? Waarom is er geen recht van beroep?
De YJC rapport maakt duidelijk dat de NSW Politie ziet SMTP als een magische motivering vak. Hun opmerkingen deze week te versterken die indruk.
“De Verdachte Doelwit Management Plan (SMTP) is een framework waarin doelen recidivist strafrechtelijke daders, ongeacht de leeftijd, om te voorkomen dat ze van het plegen van misdaden en het verstoren van hun vermogen om een misdaad te plegen. Een gedegen risico management framework wordt gebruikt om de NSW Politie is gericht op de juiste mensen op de juiste tijd aan het verminderen van het geweld en de criminaliteit in de gemeenschap,” vertelden ze popcultuur site Junkee.
“En voor alle gelegenheden, de SMTP ondergaat een proces van kwaliteitsborging door een hoofdagent te vergewissen van de geldigheid van het proces. Terwijl opzettelijk betrokken is bij de politie, SMTP genomineerden worden behandeld met respect en tolerantie, maar ze herinnerde dat de gemeenschap niet zal tolereren crimineel gedrag.”
Wereldwijd, hoewel, er is een snel-groeiende aandacht voor de ethiek en moraal van onze data-gedreven wereld.
“In de EU, hebben ze onlangs opgestart van de Europese Groep Ethiek van de exacte Wetenschappen en de Nieuwe Technologieën, en er zijn lopende debatten over privacy en eigendom, het recht om te worden vergeten en algoritmische transparantie,” Bell gezegd.
De Algemene EU-Verordening gegevensbescherming (GDRP), die van kracht wordt op 25 Mei 2018, wat kan leiden tot een recht op uitleg — dat is te zeggen, het recht om te weten hoe een geautomatiseerd systeem is tot haar besluit gekomen — hoewel de werkelijke sterkte van dat recht moet nog getest worden in de rechtbank.
Ondertussen, de YJC heeft genoemd voor de SMTP-beleid en operationele regelingen worden openbaar gemaakt; voor particulieren formeel worden gemeld wanneer deze zijn geplaatst onder de SMTP, en waarom; om gegevens te verstrekken aan de zeer gewaardeerde zuid-holland, het Bureau van de Misdaad Statistiek en Onderzoek (BOCSAR); en BOCSAR beoordelen of SMTP is in feite het verminderen van jeugd criminaliteit.
“[Onze] onderzoek is beperkt door het ontbreken van openbaar beschikbare informatie over de SMTP-en afwezigheid, tot op heden, van controle en toezicht van het programma,” schreef de YJC onderzoekers.
Dat moet veranderen.
Verwante Dekking
Walmart zet robots om te helpen bij het oplossen van out-of-stock problemen
‘S werelds grootste retailer heeft een goed gedocumenteerde strijd met lege schappen in de winkels.
Apple COO: Smartphone is een ‘grote platform’ voor de toekomst van AI (TechRepublic)
Apple ‘ s Jeff Williams sprak over de invloed van kunstmatige intelligentie, en hoe het kan grote bedrijven, maar ook in het dagelijkse leven van de consument.
Intel heeft de ambitie om binnen de kunstmatige intelligentie stapel
Intel ‘ s master plan is om te doen voor AI wat zij heeft gedaan voor server processors. Het doel is om een algemeen doel AI stack zodat ondernemingen kunnen in grote lijnen vast machine learning.
Machine learning-as-a-service is de weg van de toekomst: ServiceNow
Met “as-a-service’ – aanbod, alle organisaties hoeft te doen is ervoor te zorgen dat hun gegevens is rijk en contextuele genoeg om te profiteren van de voordelen van machine learning, ServiceNow heeft gezegd.
Cray supercomputers gaat om Microsoft Azure te stimuleren AI workloads in de cloud (TechRepublic)
De strategische alliantie stelt Microsoft Azure gebruikers benutten Cray supercomputers systemen voor het draaien van geavanceerde analytics, het modelleren van werklasten en meer in de schaal.
Verwante Onderwerpen:
Veiligheid
Digitale Transformatie
CXO
Het Internet van Dingen
Innovatie
Enterprise Software
0