Alexa fortalte et barn at gøre potentielt dødelige 'udfordring'

Amazon's Alexa fortalte et barn at røre en krone til de blottede ben på en telefonoplader, der var tilsluttet væggen, ifølge en forælder, der postede skærmbilleder af deres Alexa-aktivitetshistorik, der viser interaktionen (via Bleeping Computer) . Enheden har tilsyneladende hentet ideen til udfordringen fra en artikel, der beskriver den som farlig, med henvisning til nyhedsrapporter om en påstået udfordring, der er på vej på TikTok.

Billede: @klivdahl/Twitter

Ifølge Kristin Livdahls skærmbillede svarede Echo til “fortæl mig en udfordring at gøre” med “Her er noget, jeg fandt på nettet. Ifølge ourcommunitynow.com: Udfordringen er enkel: Sæt en telefonoplader i cirka halvvejs i en stikkontakt, og rør derefter en krone til de blottede ben.”

I en erklæring til BBC bekræftede Amazon Alexas adfærd og sagde: “Så snart vi blev opmærksomme på denne fejl, tog vi hurtige foranstaltninger for at rette den.” Livdahl tweetede i går, at det ikke længere virkede at bede om en udfordring. Da vi testede prompten med Alexa, var vi ikke i stand til at få et lignende resultat i dag, og selv om vi bad om en udfordring fra nettet, blev der intet svar eller trukket fra en meget begrænset pulje.

Alexas svar på anmodninger om en udfordring den 28. december, efter at Amazon har rettet dette specifikke svar. Billede: The Verge

Amazon er ikke den eneste virksomhed, der støder ind i problemer med at forsøge at analysere internettet for indhold. I oktober rapporterede en bruger, at Google viste potentielt farlige råd i et af sine fremhævede uddrag, hvis du Googlede “havde et anfald, hvad nu” – de oplysninger, det viste, var fra afsnittet på en webside, der beskriver, hvad man ikke skal gøre, når nogen havde en anfald. På det tidspunkt bekræftede The Verge brugerens rapport, men det ser ud til at være blevet rettet baseret på tests, vi lavede i dag (der vises intet uddrag, når Google “havde et anfald nu hvad”).

Google-søgeoversigten kontra den faktiske side pic.twitter.com/OJxt1FrBqh

— ウィアブー リンデン (@soft) 16. oktober 2021

Brugere har dog rapporteret andre lignende problemer, herunder en bruger, der sagde, at Google gav resultater for ortostatisk hypospænding, når man søger efter ortostatisk hyperspænding, og en anden, der postede et skærmbillede af Google, der viser frygtelige råd til at trøste en, der sørger.

Vi har også set advarsler om farlig adfærd forstærket for at gøre problemet større, end det oprindeligt var – tidligere på måneden lukkede nogle amerikanske skoledistrikter efter selvforstærkende rapporter om skudtrusler på TikTok. Det viste sig, at brandstormen på de sociale medier overvejende var forårsaget af folk, der talte om trusler, langt mere end nogen trussel, der måtte have eksisteret. I Alexas tilfælde valgte en algoritme den beskrivende del af en advarsel ud og forstærkede den uden den originale kontekst. Mens forælderen var der for straks at gribe ind, er det let at forestille sig en situation, hvor det ikke er tilfældet, eller hvor svaret, som Alexa deler, ikke er så åbenlyst farligt.

Livdahl tweets at hun brugte lejligheden til at “gå gennem internetsikkerhed og ikke stole på ting, du læser uden research og bekræftelse” med sit barn.

Amazon svarede ikke umiddelbart på The Verges anmodning om kommentar .

Opdatering 28. december, 16:37 ET: Tilføjede yderligere oplysninger om Alexas svar på den samme forespørgsel nu.