Amazon a dit aux employés qu’il continuerait à vendre logiciel de reconnaissance faciale pour l’application de la loi

Amazon est venu sous le feu de la fin pour l’octroi de licences de son controversé Rekognition système, un morceau puissant de logiciel de reconnaissance du visage, du gouvernement et des agences d’application de loi, avec le développement le plus récent impliquant des révélations qu’Amazon a rencontré US Immigration and Customs Enforcement (ICE) au cours de l’été à conclure un accord de Rekognition utilisation. Maintenant, les employés Amazon sont à faire griller le leadership de la société sur la vente de ces technologies, en particulier quand il pourrait être utilisé pour le suivi des êtres humains et de les envoyer dans des environnements potentiellement dangereux à l’étranger.

Amazon Web Services chef de la direction Andrew Jassy a dit aux employés de tous les mains rencontre d’aujourd’hui qui, “nous Nous sentons vraiment exceptionnel et très fortement sur la valeur que Amazon Rekognition est de fournir à nos clients de toutes tailles et de tous types d’industries dans l’application de la loi et de l’application de la loi”, selon un Amazon employé qui a parlé avec Le Point en vertu de la condition de l’anonymat et a fourni une transcription partielle de la conversation. BuzzFeed d’abord signalé sur la ville de iaşi commentaires plus tôt cet après-midi.

Amazon n’était pas immédiatement disponible pour commenter.

Avez-vous une astuce pour nous? Utilisation SecureDrop ou Signal à envoyer en toute sécurité des messages et des fichiers de La Verge sans révéler votre identité.

AWS, le cloud computing division de l’Amazonie, est responsable de la mise sous tension de Rekognition, qui est actuellement en cours d’utilisation par les services de police en Floride et de l’Oregon. La ville de iaşi a été exploité par le PDG d’Amazon Jeff Bezos pour répondre spécifiquement à une question sur Rekognition et le potentiel des contrats du gouvernement avec les organisations comme la GLACE. La ville de iaşi a poursuivi en disant que “vous ne voulez pas de se débarrasser de cette technologie”, mais a noté comment les violations des AWS modalités de service ou de violations, en général, des droits constitutionnels auraient la force d’Amazon pour interdire l’utilisation de ses services. Il a fait remarquer, toutefois, que la société estime que “c’est le rôle de la responsabilité du gouvernement pour l’aider à préciser ce que les lignes directrices de la réglementation devrait être sur la technologie.”

Le compoundage Amazon participant à des contrats gouvernementaux avec Rekognition agit d’une recherche prouvant que le système est profondément erronée, à la fois en termes de précision et concernant inhérente préjugés raciaux. L’American Civil Liberties Union testé Rekognition au cours de l’été et a constaté que le système faussement identifié 28 membres du Congrès à partir d’une base de données de 25 000 mugshots. La société a également refusé de participer à une étude globale de l’algorithmique biais géré par l’Institut National des Normes et de la Technologie qui vise à identifier quand raciale et les préjugés sexistes peuvent avoir une incidence sur un algorithme de reconnaissance faciale du taux d’erreur.

Amazon n’est pas le seul géant de la technologie connaît un ralentissement à partir de ses propres employés au sujet de la façon dont les produits sont vendus et utilisés par le gouvernement AMÉRICAIN. Google leadership a fait face à un immense jeu de cette année plus de sa participation à un Pentagone drone initiative dite du Projet Maven, obligeant l’entreprise à annoncer qu’il ne serait pas renouveler son contrat l’année prochaine et de faire connaître un ensemble de lignes directrices sur l’éthique autour de l’intelligence artificielle à l’utilisation et au développement du produit. Google est également sous le feu de son intention de lancer une news et de recherche produit pour le marché Chinois qui sera en conformité avec le gouvernement de la censure politique.

Voici la transcription intégrale de l’échange de l’mains de la réunion:

Q: Ce qui est fait en réponse aux préoccupations exprimées par les deux Amazon employés et des groupes de défense des droits concernant Amazon vente de la technologie de reconnaissance faciale pour le gouvernement et les organismes de la police, y compris la GLACE?

Amazon PDG, Jeff Bezos: Bonne. Andy, voulez-vous de prendre?

AWS chef de la direction Andrew Jassy: Merci, nous sommes donc en se référant à Amazon Rekognition, qui est d’AWS apprentissage profond de reconnaissance d’images, la reconnaissance faciale, la reconnaissance vidéo de service et, vous savez, avec plus de cinq cent mille employés que nous avons à Amazon, je pense que nous allons avoir des gens qui ont des opinions très large, ce qui est excellent. Mais nous nous sentons vraiment exceptionnel et très fortement sur la valeur que Amazon Rekognition est de fournir à nos clients de toutes tailles et de tous types d’industries dans l’application de la loi et de l’application de la loi.

Vous le voyez dans la valeur des gens sont en fait obtenir, même après seulement un an, un an et demi de service, où Rekognition est activement utilisé pour aider à arrêter le trafic d’êtres humains, de se réunir manquant enfants avec les parents pour les applications éducatives, de sécurité et d’authentification multi-facteurs pour éviter les vols.

Il y a beaucoup de valeur, apprécié à partir d’Amazon Rekognition. Maintenant, maintenant, bien sûr, avec un type de technologie, vous devez vous assurer qu’il est utilisé de manière responsable, et c’est vrai avec les technologies nouvelles et existantes. Il suffit de penser tout le mal qui peut être fait avec les ordinateurs ou les serveurs et qui a été fait, et que vous pensez à ce un lieu différent de notre monde serait si nous ne savons pas comment les gens ont des ordinateurs.

Si vous ne voulez pas de se débarrasser de cette technologie. Vous voulez vous assurer que les gens utilisent la technologie de façon responsable, et nous avons un ensemble de termes et des services AWS. Et avec l’ensemble de nos services, y compris Rekognition, où si les gens à enfreindre ces termes de services et de ne pas les utiliser de manière responsable, ils ne seront pas en mesure d’utiliser nos services plus longtemps. En fait, si nous constatons que les gens sont de violer les gens droits constitutionnels, ils ne seront pas en mesure d’utiliser les services. Je pense aussi, par la façon dont, dans une démocratie, est aussi souvent le rôle de la responsabilité du gouvernement pour l’aider à préciser ce que les lignes directrices de la réglementation devrait être sur la technologie. Et, si et quand cela arrive, nous allons respecter ceux aussi bien. Je vous remercie.

Mise à jour 11/8, 7:16PM ET: Ajout d’informations à propos de la recherche sur les failles de Amazon Rekognition système.