Facebook entschuldigt sich für einen Vorfall, bei dem seine KI ein Video von schwarzen Männern mit dem Etikett “Primaten” falsch bezeichnet und es als “inakzeptablen Fehler” bezeichnet, den es untersucht hat, um zu verhindern, dass es erneut passiert. Wie die New York Times berichtet, erhielten Benutzer, die ein Video der britischen Boulevardzeitung Daily Mail vom 27. Juni angesehen hatten, eine automatische Aufforderung, ob sie „weiterhin Videos über Primaten sehen wollten“.
Facebook hat die gesamte Themenempfehlungsfunktion deaktiviert, sobald es erkannt hat, was passiert ist, sagte ein Sprecher am Samstag in einer E-Mail an The Verge.
„Dies war eindeutig ein inakzeptabler Fehler“, sagte der Sprecher. Das Unternehmen untersucht die Ursache, um ein erneutes Auftreten des Verhaltens zu verhindern, fügte der Sprecher hinzu. „Wie bereits erwähnt, haben wir unsere KI zwar verbessert, wissen aber, dass sie nicht perfekt ist und wir noch weitere Fortschritte machen müssen. Wir entschuldigen uns bei allen, die diese anstößigen Empfehlungen gesehen haben.“
Der Vorfall ist nur das neueste Beispiel für künstliche Intelligenz, die geschlechts- oder rassenbezogene Voreingenommenheit zeigt besonderes Problem der falschen Identifizierung von farbigen Personen. Im Jahr 2015 entschuldigte sich Google, nachdem seine Fotos-App Fotos von Schwarzen als „Gorillas“ markiert hatte. Im vergangenen Jahr gab Facebook an, zu untersuchen, ob seine mit KI trainierten Algorithmen – einschließlich der von Instagram, das Facebook besitzt – rassistisch voreingenommen sind.
Im April warnte die US Federal Trade Commission, dass KI-Tools, die „beunruhigende“ rassistische und geschlechtsspezifische Vorurteile gezeigt haben, möglicherweise gegen Verbraucherschutzgesetze verstoßen, wenn sie bei der Entscheidungsfindung eingesetzt werden für Kredit, Wohnung oder Beschäftigung. „Übernehmen Sie die Verantwortung – oder seien Sie bereit, dass die FTC dies für Sie erledigt“, schrieb die Datenschutzanwältin der FTC, Elisa Jillson, in einem Beitrag auf der Website der Behörde.