NSW Police de ciblage montre l’éthique dangers d’algorithmes secrets

0
122

Zero

Les enfants aussi jeunes que 10 ont été ajoutées à la nouvelle-galles du sud la Police Soupçonne le Ciblage Plan de Gestion (STMP), choisi pour arrêt de recherche et de mouvement sur les directions à chaque fois que la police de les rencontrer. Mais comment et pourquoi ce qui se passe est un secret.

Ce manque de transparence implique que les individus se demandent si leur race ou de l’histoire de la famille a été un facteur.

C’est une crainte raisonnable, compte tenu de la preuve que les algorithmes peuvent apprendre l’égalité raciale et les préjugés de notre propre biaisée de la langue, ou que les algorithmes développés pour la peau caucasienne ont de la difficulté avec les gens de couleur.

“[Algorithmes] sont, en fait, le reflet de la façon dont le monde fonctionne, et comme tels, ils sont criblés de l’homme des préjugés et de l’imparfait logiques. Nous avons vu des algorithmes qui ont des propos racistes, sexistes, hétéronormatif, violente, de compétitivité, de violation de la loi, et de manière agressive Américains — et ce ne sont que celles que nous connaissons”, a déclaré le professeur Geneviève Bell, dans le dernier de ses quatre Boyer cours plus tôt ce mois-ci.

STMP, pourrait bien être le codage existant biais des services de police.

Selon la Justice pour les Jeunes de la Coalition (YJC), les données qu’ils ont réussi à obtenir montre que STMP “de façon disproportionnée à l’intention des jeunes, en particulier des Autochtones et des Insulaires du Détroit de Torres”.

“Les jeunes gens l’expérience de l’STMP comme un modèle de tyrannique, injuste des services de police”, a écrit YJC chercheurs Dr Vicki Sentas et Camilla Pandolfini, dans leur rapport, les services de Police des Jeunes en nouvelle-galles du sud publié le mercredi.

“[Ils] l’expérience d’un modèle de la constante de harcèlement par la police, y compris l’utilisation des pouvoirs d’interpellation par la police, des présentations à la jeune personne, la maison ressemble à un cautionnement de contrôle (bien que la jeune personne peut ne pas être en liberté sous caution à l’époque), et se déplacer sur les directions,” les chercheurs a écrit.

“Dans certains cas, le SMTP est utilisé par la police comme un substitut pour avoir des” motifs raisonnables de soupçonner “la jeune personne a commis ou est sur le point de commettre une infraction”.

Une étude de cas de ce rapport est d’environ Dean, un 16-year-old male. Son avocat décrit son infractions “mineures et pas importante”, se rapportant surtout aux graffitis, en plus d’une mise en garde pour la possession de cannabis et d’un mineur, l’intrusion de l’infraction.

Dean a été arrêté et fouillé 23 fois en 10 mois. La Police les registres de justifications, y compris des “personnes d’intérêt qui portent Nautica vêtements sont” connus pour commettre une infraction pénale infractions ” (graffiti); que les jeunes gens qui s’en sortent le dernier wagon d’un train et de l’usure Nautica sont connus pour commettre une infraction pénale; et que Dean était avec un groupe de jeunes gens.”

Les jeunes ont trouvé eux-mêmes l’objet d’une STMP, même si ils n’ont que des mineurs, non-violente des condamnations antérieures, ou même d’aucune condamnation antérieure à toutes, contente de nombreux contacts avec la police, par les liens familiaux, par exemple.

Dans les 10 police Locale de la Zone de Commandes (LACs) pour lesquels les chercheurs ont obtenu des données, 44 pour cent de ceux sur le STMP ont été identifiés comme Autochtones. La proportion la plus élevée a été dans Redfern LAC, où 60% des personnes ciblées étaient des Autochtones, même si “seulement 2% de la Redfern de la population est Autochtone”.

Le rapport décrit un incident lorsqu’un 13-year-old jeune Autochtone a été approché par la police alors qu’il était en attente d’un bus. “Ils ont demandé pour le projet de Loi de nom et puis il dit des paroles à l’effet de ” nous Nous souvenons de vous à partir de [une autre localité], vous êtes un voleur petit chien”, ” les chercheurs a écrit. Pas rare, de l’incident, il semblerait.

Alors que les problèmes de comportement de la police sont au-delà de ZDNet attributions, les questions clés demeurent.

A STMP simplement recréé préjugés préexistants, car il est basé sur les données de la police des processus qui peuvent déjà avoir implicite préjugés? Est le modèle utilisé pour prédire le potentiel pour de futurs actes criminels valide? Ne mettre quelqu’un sur le STMP courir le risque d’accroître la probabilité d’évolution défavorable de la police des rencontres?

Et la clé …

Pourquoi est-ce processus, non seulement les algorithmes, mais même juste le large modèle conceptuel, un secret? Pourquoi les individus ne dit pas qu’ils soient sur le STMP ou pas? Pourquoi ne peuvent-ils savoir comment obtenir la liste? Pourquoi il n’y a pas de droit d’appel?

Le YJC rapport indique clairement que NSW Police voit STMP comme une magie justification de la boîte. Leurs commentaires cette semaine renforcer cette impression.

“Le Suspect Cible Plan de Gestion (STMP) est un cadre qui cible les récidivistes délinquants, indépendamment de l’âge, afin de les empêcher de commettre des crimes et de perturber leur capacité à commettre un crime. Une approfondie du cadre de gestion des risques est utilisée pour assurer l’NSW Police Force est de cibler les bonnes personnes, au bon moment, afin de réduire la violence et la criminalité dans la collectivité,” ils ont dit à la culture pop site Junkee.

“Dans toutes les occasions, le STMP subit un processus d’assurance qualité par un officier de police pour assurer la validité de la procédure. Bien que délibérément engagé par la police, STMP les candidats sont traités avec le respect et la tolérance, mais ils doivent se rappeler que la communauté ne sera pas tolérer un comportement criminel.

Globalement, cependant, il y a rapidement plus en plus l’accent sur l’éthique et la moralité de notre monde guidé par les données.

“Dans l’UE, ils ont redémarré le Groupe Européen d’Éthique des Sciences et des Nouvelles Technologies, et il y a eu des débats en cours autour de la confidentialité des données et à la propriété, le droit à l’oubli et à l’algorithmique de la transparence,” Bell a dit.

Général de l’UE à la Protection des Données le Règlement (GDRP), qui entre en vigueur le 25 Mai 2018, comprend ce que peut bien montant droit à une explication, c’est-à-dire, le droit de savoir comment un système automatisé a atteint sa décision, bien que la force réelle de ce droit doit encore être testé dans la cour.

Pendant ce temps, le YJC a appelé pour le STMP de la politique et des dispositions opérationnelles doivent être rendus publics; pour les personnes d’être officiellement informé lorsqu’elles sont placées sous le STMP, et pourquoi; fournir des données pour le hautement considérée NSW Bureau des Statistiques de la Criminalité et de la Recherche (BOCSAR); et d’avoir BOCSAR évaluer si STMP est en fait la réduction de la criminalité chez les jeunes.

“[Notre] recherche a été limitée par le manque d’informations accessibles au public sur le STMP, et l’absence, à ce jour, de contrôle et de supervision du programme,” a écrit le YJC chercheurs.

Qui doit changer.

Liés À La Couverture

Walmart se tourne vers des robots pour aider à résoudre des problèmes de stock

Le plus grand détaillant du monde a eu bien documentée lutte avec étagères vides dans ses magasins.

Apple COO: le Smartphone est un ” major de la plate-forme pour l’avenir de l’IA (TechRepublic)

Apple Jeff Williams a parlé de l’impact de l’intelligence artificielle, et comment pourrait-il changer les grandes industries ainsi que la vie quotidienne des consommateurs.

Intel vise à être à l’intérieur de votre intelligence artificielle pile

Intel master plan est de faire de l’IA de ce qu’il a fait pour processeurs pour serveurs. L’objectif est de créer un objectif général de IA pile de façon les entreprises peuvent largement adopter l’apprentissage de la machine.

L’apprentissage de la Machine-comme-un-service de la voie de l’avenir: ServiceNow

Avec “as-a-service” offres, toutes les organisations aurez à faire est de s’assurer que leurs données sont riches et contextuelles assez pour en récolter les fruits de l’apprentissage machine, ServiceNow a dit.

Supercalculateurs Cray s’agit de Microsoft Azure pour stimuler l’IA des charges de travail dans le cloud (TechRepublic)

L’alliance stratégique permettra à Microsoft Azure utilisateurs de tirer parti de supercalculateurs Cray systèmes pour exécuter advanced analytics, modélisation de la charge de travail, et plus à l’échelle.

Rubriques Connexes:

Sécurité

Transformation Numérique

CXO

L’Internet des objets

L’Innovation

Des Logiciels D’Entreprise

0