Amazon er kommet under beskydning for sent for udstedelse af sin kontroversielle Rekognition system, et kraftfuldt stykke software til ansigtsgenkendelse, at regering og retshåndhævende myndigheder, med den seneste udvikling, der involverer afsløringer af, at Amazon mødt med U.S. Immigration and Customs Enforcement (ICE) i løbet af sommeren til at strejke en aftale for Recoknition. Nu, Amazon medarbejdere er grill selskabets ledelse i salg af sådanne teknologier, og især når det kan bruges til at spore mennesker og sende dem tilbage til potentielt farlige miljøer i udlandet.
Amazon Web Services administrerende DIREKTØR Andrew Jassy fortalte medarbejdere i en alle-hænder møde i dag, at “vi føler, at virkelig gode og virkelig stærkt om den værdi, som Amazon Rekognition er at give vores kunder af alle størrelser og med alle typer af industrier i håndhævelse af loven og ud af retshåndhævelse,” ifølge en Amazon medarbejder, der talte med Randen under betingelse af anonymitet, og forudsat, at en delvis afskrift af samtale. BuzzFeed første rapporterede om Jassy kommentarer fra tidligere denne eftermiddag.
Amazon var ikke umiddelbart tilgængelig for en kommentar.
AWS cloud computing division, Amazon, er ansvarlig for drift Recoknition, som aktuelt er i brug af politiet i Florida og Oregon. Jassy blev udnyttet af Amazon CEO Jeff Bezos til specifikt at besvare et spørgsmål om Rekognition og potentielle offentlige kontrakter med organisationer som IS. Jassy gik på at sige, at “du ikke ønsker at slippe af med, at teknologi”, men bemærkede, hvordan krænkelser af AWS’ servicevilkår eller krænkelser generelt af forfatningsmæssige rettigheder ville tvinge Amazon at forbyde brug af sine tjenester. Han gjorde dog opmærksom på, at virksomheden mener, at “it’ s rolle i regeringens ansvar at hjælpe med at specificere, hvad de retningslinjer, regler bør være om teknologi.”
Blanding Amazon ‘ s deltagelse i offentlige kontrakter med Rekognition er forskning, der viser, at systemet er behæftet med mange fejl, både i form af nøjagtighed og om iboende racemæssige fordomme. American Civil Liberties Union testet Rekognition hen over sommeren, og fandt, at systemet fejlagtigt identificeret 28 medlemmer af Kongressen fra en database på 25.000 mugshots. Virksomheden har også afvist at deltage i en omfattende undersøgelse af algoritmisk bias køre ved det Nationale Institut for Standarder og Teknologi, der har til formål at identificere, når racemæssig og kønsmæssig skævhed kan påvirke en facial anerkendelse algoritme fejlprocent.
Her er den fulde udskrift af exchange fra alle hænder møde:
Q: Hvad er der gjort i forbindelse med de bekymringer, som både Amazon medarbejdere og borgerlige rettigheder grupper med hensyn til Amazon sælger ansigtsgenkendelse teknologi til at regeringen og politiet organisationer, herunder IS?
Amazon CEO Jeff Bezos: God. Andy, ønsker du at tage et?
AWS administrerende DIREKTØR Andrew Jassy: Tak, så er vi henvise til Amazon Rekognition, som er AWS’ dyb læring billede anerkendelse, ansigtsgenkendelse, video-tjenesten til stemmegenkendelse, som du ved, dem med over fem hundrede tusinde medarbejdere, som vi har på Amazon, jeg tror, vi kommer til at have folk, der har holdninger, der er meget omfattende, hvilket er fantastisk. Men vi føler, at virkelig gode og virkelig stærkt om den værdi, som Amazon Rekognition er at give vores kunder af alle størrelser og med alle typer af industrier i håndhævelse af loven og ud af retshåndhævelse.
Du kan se det i den værdi, folk er faktisk at få endnu efter næsten et år, halvandet år, hvor Rekognition er aktivt blevet brugt til at hjælpe med at stoppe menneskehandel, er at genforene forsvundne børn med forældre om uddannelses-programmer, sikkerhed og multi-faktor-autentificering for at forhindre tyveri.
Der er en masse værdi, der bliver nydt fra Amazon Rekognition. Nu nu, selvfølgelig, med enhver form for teknologi, du har at gøre sikker på, at det bliver brugt ansvarligt, og det er sandt med ny og eksisterende teknologi. Bare tænk på al den ulykke, der kunne være gjort med computere eller servere, og der er blevet gjort, og du tænke over, hvad et andet sted i vores verden ville være, hvis vi ikke vide, hvordan folk har computere.
Så behøver du ikke ønsker at slippe af med denne teknologi. Du ønsker at sikre, at folk bruger teknologi med omtanke, og vi har et sæt af begreber og ydelser i AWS. Og med alle vores tjenester, herunder Rekognition, hvor, hvis folk overtræder disse betingelser for service og ikke bruge dem ansvarligt, vil de ikke være i stand til at bruge vores tjenester noget længere. I virkeligheden, hvis vi finder folk overtræder folk forfatningsmæssige rettigheder, de vil ikke være i stand til at bruge tjenester. Jeg tror også, ved den måde, i et demokrati er det også ofte en rolle i regeringens ansvar at hjælpe med at specificere, hvad de retningslinjer, regler bør være om teknologi. Og, hvis og når det sker, vil vi stå ved dem, så godt. Tak skal du have.
Opdatering 11/8, 7:16PM ET: Tilføjet oplysninger om forskning i fejl af Amazon ‘ s Rekognition system.