Amazon vertelde werknemers zou blijven verkopen gezichtsherkenning software om handhaving van de wet

Amazon heeft onder vuur komen te laat voor de licentie van de controversiële Rekognition system, een krachtig stuk van gezichtsherkenning software, overheid en agentschappen van de wetshandhaving, met de meest recente ontwikkeling, waarbij openbaringen dat Amazon een ontmoeting met AMERIKAANSE Immigration and Customs Enforcement (ICE) in de zomer te slaan een deal voor Rekognition gebruiken. Nu, Amazon medewerkers zijn grillen van het leiderschap van de onderneming over de verkoop van dergelijke technologie, in het bijzonder wanneer het kan worden gebruikt voor het bijhouden van mens en stuur ze terug in potentieel gevaarlijke omgevingen in het buitenland.

Amazon Web Services CEO Andrew Jassy vertelde werknemers op een all-hands meeting vandaag aan dat, “We voelen ons echt geweldig en echt sterk over de waarde die Amazon Rekognition is om onze klanten van alle soorten en maten en alle soorten van bedrijven in de handhaving van de wet en van handhaving van de wet,” aldus een Amazon-medewerker die sprak met De Rand onder de voorwaarde van anonimiteit en verstrekt een gedeeltelijke transcriptie van het gesprek. BuzzFeed voor het eerst gemeld op Jassy de opmerkingen van eerder deze middag.

Amazon was niet onmiddellijk beschikbaar voor commentaar.

Kreeg je een tip voor ons? Gebruik SecureDrop of Signaal om veilig verzenden van berichten en bestanden naar De Berm, zonder dat uw identiteit bekend wordt.

AWS, de cloud computing-divisie van Amazon, is verantwoordelijk voor het voeden van Rekognition, die momenteel in gebruik is door de politie in Florida en Oregon. Jassy getikt werd door Amazon CEO Jeff Bezos specifiek antwoord op een vraag over Rekognition en potentiële overheid contracten met organisaties als IJS. Jassy ging verder met te zeggen dat je niet wilt om zich te ontdoen van die technologie,” maar merkte hoe schendingen van AWS terms of service of overtredingen in het algemeen van de grondwettelijke rechten zou dwingen Amazon om een verbod op het gebruik van haar diensten. Hij deed er echter rekening mee dat het bedrijf van mening is dat “het is de rol van de verantwoordelijkheid van de overheid om te helpen geef aan wat de richtlijnen van de regelingen en voorschriften moeten worden over de technologie.”

Samengestelde Amazon ‘ s deelname in de regering contracten met Rekognition is onderzoek waaruit blijkt dat het systeem rammelt aan alle kanten, zowel in termen van juistheid en met betrekking tot inherent racistische vooringenomenheid. De American Civil Liberties Union getest Rekognition de loop van de zomer en vinden dat het systeem ten onrechte geïdentificeerd 28 leden van het Congres uit een database van 25.000 smoelenboek. (Amazon terug geduwd tegen de ACLU de bevindingen in de studie, met Mat Hout, de algemeen directeur van diep leren en AI, zeggende: in een blog post terug, in juli dat de gegevens van de test met de Rekognition API is gegenereerd met een 80 procent vertrouwen tarief, veel lager dan de 99 procent vertrouwen tarief beveelt voor handhaving van de wet overeenkomt.)

Het bedrijf heeft ook geweigerd om deel te nemen in een uitgebreide studie van algoritmische bias uitgevoerd door het Nationaal Instituut van Standaards en Technologie die gericht is op het identificeren wanneer ras en gender bias kan beïnvloeden gezichtsherkenning algoritme is fout beoordelen.

Amazon is niet de enige technologie reus ervaren pushback van haar eigen medewerkers over hoe de producten worden verkocht aan en gebruikt door de AMERIKAANSE overheid. Google leiderschap te maken heeft gehad met enorme terugslag dit jaar over de deelname in een Vijfhoek drone initiatief bekend als Project Maven, dwingt het bedrijf om aan te kondigen zou het niet verlengen van zijn contract volgend jaar en om bekendheid te geven aan een set van ethische richtlijnen rond kunstmatige intelligentie gebruiken en product ontwikkeling. Google komt ook onder vuur voor haar plannen aan voor de lancering van nieuws en het zoeken van het product voor de Chinese markt die voldoen aan de regering censuur beleid.

Hier is de volledige transcriptie van de uitwisseling van het all hands meeting:

Q: Wat wordt er gedaan in reactie op de zorgen geuit door zowel Amazon medewerkers en burgerrechten groepen op het vlak van Amazon de verkoop van gezichtsherkenning tot de overheid en politie-organisaties, met inbegrip van IJS?

Amazon-CEO Jeff Bezos: Goed. Andy, wil je dat?

AWS CEO Andrew Jassy: Dank u wel, dus dan hebben we het over Amazon Rekognition, die AWS’ diep leren image recognition, gezichtsherkenning, video-opname service en, weet je, met meer dan vijfhonderd duizend medewerkers als wij hebben bij Amazon, ik denk dat we het gaan om mensen die een mening hebben die veelomvattend zijn, dat is geweldig. Maar we voelen ons echt geweldig en echt sterk over de waarde die Amazon Rekognition is om onze klanten van alle soorten en maten en alle soorten van bedrijven in de handhaving van de wet en uit de rechtshandhaving.

Je ziet het in de waarde sommige mensen krijgen zelfs al na ongeveer een jaar, anderhalf jaar van de dienst, waar Rekognition wordt actief gebruikt om te helpen stoppen met mensenhandel, om zich te herenigen vermiste kinderen met hun ouders voor educatieve toepassingen, voor de veiligheid en multi-factor authenticatie om diefstal te voorkomen.

Er wordt veel waarde wordt genoten van Amazon Rekognition. Nu, natuurlijk, met elke vorm van technologie, moet u ervoor zorgen dat het wordt gebruikt op een verantwoorde manier, en dat is ook zo met nieuwe en bestaande technologie. Denk over al het kwaad, dat kan worden gedaan met computers of servers en heeft gedaan, en u denkt over wat een andere plaats onze wereld zou zijn als we wisten niet hoe we mensen hebben een computer.

Zodat je niet wilt om zich te ontdoen van die technologie. U wilt ervoor zorgen dat mensen gebruik maken van de technologie op een verantwoorde manier, en we hebben een set van voorwaarden en diensten die AWS. En met al onze diensten, met inbegrip van Rekognition, waar als mensen het schenden van deze voorwaarden van dienstverlening en gebruik ze niet op een verantwoorde manier, zij zullen niet in staat zijn om van onze diensten gebruik maken. In feite, als we vinden de mensen het schenden van mensen grondwettelijke rechten, zij niet in staat zijn de diensten te gebruiken. Ik denk ook dat, door de manier, in een democratie is ook vaak de rol in de verantwoordelijkheid van de overheid om te helpen geef aan wat de richtlijnen van de regelingen en voorschriften moeten worden over technologie. En, als en wanneer dat gebeurt, zullen wij het naleven van deze. Dank u.

Update 11/8, 7:16PM ET: informatie Toegevoegd over het onderzoek naar de gebreken van Amazon ‘ s Rekognition systeem.