Facebook s'excuse pour un incident au cours duquel son IA a mal étiqueté une vidéo d'hommes noirs avec une étiquette de “primates”, la qualifiant d'”erreur inacceptable” qu'elle examinait pour éviter que cela ne se reproduise. Tel que rapporté par le New York Times, les utilisateurs qui ont regardé une vidéo du 27 juin publiée par le tabloïd britannique Daily Mail ont reçu une invite automatique leur demandant s'ils voulaient “continuer à voir des vidéos sur les primates”.
Facebook a désactivé toute la fonction de recommandation de sujets dès qu'il a réalisé ce qui se passait, a déclaré un porte-parole dans un e-mail à The Verge samedi.
“C'était clairement une erreur inacceptable”, a déclaré le porte-parole. La société enquête sur la cause pour éviter que le comportement ne se reproduise, a ajouté le porte-parole. “Comme nous l'avons dit, bien que nous ayons apporté des améliorations à notre IA, nous savons qu'elle n'est pas parfaite et nous avons encore des progrès à faire. Nous nous excusons auprès de tous ceux qui ont pu voir ces recommandations offensantes.”
L'incident n'est que le dernier exemple d'outils d'intelligence artificielle montrant des préjugés sexistes ou raciaux, avec des outils de reconnaissance faciale qui ont un problème particulier d'identification erronée des personnes de couleur. En 2015, Google s'est excusé après que son application Photos ait qualifié des photos de Noirs de « gorilles ». L'année dernière, Facebook a déclaré qu'il étudiait si ses algorithmes formés à l'aide de l'IA, y compris ceux d'Instagram, dont Facebook est propriétaire, étaient racistes.
En avril, la Federal Trade Commission des États-Unis a averti que les outils d'IA qui ont démontré des préjugés raciaux et sexistes « troublants » peuvent être en violation des lois sur la protection des consommateurs s'ils sont utilisés pour la prise de décision pour le crédit, le logement ou l'emploi. « Tenez-vous responsable ou soyez prêt à ce que la FTC le fasse pour vous », a écrit Elisa Jillson, avocate à la protection de la vie privée de la FTC, dans un article publié sur le site Web de l'agence.