Microsoft siger sin facial anerkendelse værktøjer bliver bedre til at identificere personer med mørkere hud toner end før, ifølge et selskab blog-indlæg i dag. De fejlprocenter, der er blevet reduceret med så meget som 20 gange for mænd og kvinder med mørkere hud, og ved ni gange for kvinder.
Selskabet siger, at det er blevet træning sin AI værktøjer med større og mere forskelligartet datasæt, der har ført til fremskridt. “Hvis vi ikke er i uddannelse machine learning systemer til at efterligne beslutninger, der træffes i en forudindtaget samfundet, ved hjælp af data, der genereres ved, at samfundet, så er disse systemer, vil nødvendigvis reproducere sine fordomme,” sagde Hanna Wallach, en Microsoft senior forsker, i blog-indlæg.
Facial recognition systemer kan blive påvirket af begrænset datasæt og andre faktorer, som systemisk racisme
I februar, en rapport fra MIT ‘ s Media Lab testet facial recognition systemer fra Microsoft, IBM, og Kinas Megvii og fandt, at op til 35 procent af mørkere i huden kvinder havde deres køn fejlidentificeret af systemer. Rapporten kun bekræftet, hvad mange har mistænkt i årevis — ansigtsgenkendelse-systemer kan blive påvirket af begrænset datasæt og andre faktorer, som systemisk racisme. Tilbage i 2015, Google identificeret en software ingeniør sorte venner i et foto som “gorillaer”, og var nødt til at undskylde for fejlen.
Stadig, mens Microsoft ‘ s udmelding i dag og viser en reduktion i race bias i sin facial recognition system, hvis retshåndhævende få deres hænder på den forbedrede facial anerkendelse af, at det er uklart, hvordan der kan spille ud for mennesker af farve, og om det kan forværre allerede problematisk praksis. Microsoft-partnere med den AMERIKANSKE Immigration and Customs Enforcement (ICE), og dens facial anerkendelse værktøj, der tilbydes til offentlige midler som en ressource. Microsoft CEO Satya Nadella afklaret i et notat i sidste uge, at “Microsoft er ikke i orden med den AMERIKANSKE regering om alle projekter, der er knyttet til at adskille børn fra deres familier ved grænsen,” men han gjorde ikke behandle, hvordan facial anerkendelse kan spille en rolle i nyder ICE ‘ s arbejde.