Bing en Yahoo zijn suggereert beledigend zoekt

Inhoud waarschuwing: het volgende verhaal bevat gevoelig materiaal over racisme, anti-Semitisme, en de sexualization van minderjarigen.

Bing en Yahoo, die wordt aangedreven door Bing, zijn beide suggereren aanstootgevende inhoud binnen hun zoekfuncties. How-To Geek gespot die van Bing image search is waar je suggesties voor onderwerpen die te bevatten racistische termen, de sexualization van minderjarigen, en anderszins aanstootgevende inhoud. Het Punt vond toen dat dit probleem strekt zich uit tot Yahoo: de homepage zoeken doos bevat een functie voor automatisch aanvullen die u invult racistische uitdrukkingen, en de resultaten vaak de prioriteit van het bedrijf Yahoo Antwoorden op berichten bevatten die aanstootgevend materiaal.

Op Bing, de tips, de zogenaamde smart suggestie bubbles, in een lijn worden weergegeven boven de resultaten na het uitvoeren van een afbeelding zoeken. Per How-To Geek is screencaps, een voorbeeld van een zoekopdracht voor “Joden” op Bing Images gaf slimme suggestie bubbels zoals “vuile Joden” en “kwaad Joden.” Door te klikken op één van die voorgestelde zoekopdrachten aanbevolen extra racistische zoektermen.

Bing ‘ s SafeSearch optie is standaard ingeschakeld, maar dat is niet gelukt om te voorkomen dat deze beledigend resultaten. Het draaien van het filter van SafeSearch off kan leveren andere aanstootgevende suggesties. Het zoeken van afbeeldingen op Bing voor “zwarte mensen” met SafeSearch off geeft voorgesteld follow-up zoekopdrachten “stom,” “achterlijk” en “apen.”

In sommige gevallen, de top afbeeldingen die worden geretourneerd zijn ook beledigend. Volgens de How-To Geek, het probleem is wijdverspreid in Bing video zoeken. Het Punt was in staat om te repliceren enkele van de resultaten, maar niet alle. Het probleem strekt zich ook uit tot zoekopdrachten rond andere etniciteiten.

How-To Geek zegt dat Bing ook aanbevolen termen die sexualize minderjarigen. Bij het zoeken naar “gril,” Bing stelde toen een zoekopdracht voor “schattig meisje, jong 16.” Door te klikken op suggesties voor zoekopdrachten voor “meisje modellering provocerend,” “schattige jonge meisjes 13,” en “schattig meisje, jong 10.”

Deze suggesties van autoaanvullen worden niet weergegeven bij het maken van een regelmatige zoeken door middel van bing.com. Echter, Bing ook de bevoegdheden van Yahoo ‘ s zoeken, en dezelfde beledigend suggesties die verschijnen in Bing Afbeeldingen op Yahoo de hoofdpagina.

Yahoo ‘ s bovenaan de zoekresultaten komen vaak uit Yahoo Answers, het weergeven van de resultaten van een onbetrouwbare bron

Bovendien, aangezien Yahoo verschijnt de prioriteit van de community-gedreven vraag-en-antwoord-website Yahoo Answers in de zoekresultaten, de top resultaat voor een offensief zoeken kan afkomstig zijn van een onbetrouwbare bron. Bij het doorzoeken van de eerste auto-voorgestelde zin voor “zwarte mensen ar,” Het Punt te vinden dat de top resultaat is een Yahoo Antwoorden pagina met de titel “Zwarte Mensen Geboren Dom” dat bevat tal van racistische opmerkingen. Yahoo stelt daarna een follow-up zoeken, zeggende: “Ook proberen: zwarte mensen zijn dom en gewelddadig.”

Andere zoekmachines, zoals Google, hebben hun borstels met per ongeluk de bevordering van de aanstootgevende inhoud. In 2016, Google gericht de zeer hetzelfde onderwerp van autoaanvullen suggereren “zijn de Joden het kwaad.” Dat zelfde jaar werd de onderneming geconfronteerd met verzet wanneer het eerste resultaat van de query “de Holocaust gebeuren?” kwam van een blanke racist website. In reactie, Google veranderde haar Search Quality Rater Richtlijnen in 2017 om aanstampen op de verspreiding van beledigend of onjuiste zoekresultaten. Een paar maanden later, Google kwam onder vuur weer voor het markeren van een offensief meme in de zoekresultaten voor een zoekopdracht. “geslacht vloeistof.”

Google heeft geschetst van het beleid op ongepaste inhoud voor automatisch aanvullen, samen met een manier om overtredingen te melden. Terwijl Bing niet als aanstaande, een blog post van Bing in 2013 specifiek staten die haar zoeken auto-stel probeert te verwijderen van beledigende inhoud. “In aanvulling op de verwerking van suggesties,” het zegt, “we zijn ook actief parallelle algoritmen die het filteren van spam, op te sporen volwassene of aanstootgevende inhoud, het controleren op spelfouten en het classificeren van het type zoekopdracht die u probeert uit alle categorieën.”

Vorig jaar, Bing toegevoegd feit-het controleren van labels om de zoekresultaten, en Microsoft (die eigenaar en exploitant van Bing) aangekondigde nieuwe AI functies voor Bing, die bedoeld zijn om, onder andere, beter herkennen de inhoud van de beelden. De Rand heeft bereikt Microsoft voor commentaar.