Facebook ber om ursäkt för en incident där dess AI felmärkte en video med svarta män med en “primater” -etikett och kallade det ett “oacceptabelt fel” som det undersökte för att förhindra att det skulle hända igen. Som rapporterats av New York Times fick användare som tittade på en video från den 27 juni som publicerades av den brittiska tabloiden Daily Mail en automatisk fråga om de ville “fortsätta se videor om Primates.”
Facebook inaktiverade hela ämnesrekommendationsfunktionen så snart den insåg vad som hände, sade en talesperson i ett mejl till The Verge på lördagen.
“Detta var helt klart ett oacceptabelt fel”, sade talesmannen. Företaget undersöker orsaken för att förhindra att beteendet händer igen, tillade talesmannen. “Som vi har sagt, medan vi har gjort förbättringar av vår AI vet vi att det inte är perfekt och vi har fler framsteg att göra. Vi ber om ursäkt till alla som kan ha sett dessa kränkande rekommendationer. ”
Händelsen är bara det senaste exemplet på verktyg för artificiell intelligens som visar kön eller rasisk partiskhet, med verktyg för ansiktsigenkänning som visat sig ha en särskilt problem med att felidentifiera personer med färg. År 2015 bad Google om ursäkt efter att appen Photos taggat foton på svarta människor som “gorillor”. Förra året sa Facebook att de studerade om dess algoritmer som utbildats i AI – inklusive Instagrams, som Facebook äger – var rasistiska.
I april varnade USA: s federala handelskommission att AI-verktyg som har visat “oroande” ras- och könsfördomar kan bryta mot konsumentskyddslagar om de används beslutsfattande för kredit, bostad eller anställning. ”Håll dig själv ansvarig – eller var beredd på att FTC gör det åt dig”, skrev FTC: s integritetsadvokat Elisa Jillson i ett inlägg på byråns webbplats.