Amazons Alexa sa till ett barn att röra en slant på de exponerade utsprången på en telefonladdare som är ansluten till väggen, enligt en förälder som lade upp skärmdumpar av sin Alexa-aktivitetshistorik som visar interaktionen (via Bleeping Computer) . Enheten tycks ha hämtat idén till utmaningen från en artikel som beskriver den som farlig, med hänvisning till nyhetsrapporter om en påstådd utmaning som trendar på TikTok.
:no_upscale.com/cdnload.com/cdnload.com/cdn /chorus_asset/file/23130884/klivdahl.jpg "Alexa sa till ett barn att göra en potentiellt dödlig ‘utmaning’")
Bild: @klivdahl/Twitter Enligt Kristin Livdahls skärmdump svarade Echo på “berätta för mig en utmaning att göra” med “Här är något jag hittade på webben. Enligt ourcommunitynow.com: Utmaningen är enkel: anslut en telefonladdare ungefär halvvägs till ett vägguttag, och tryck sedan en slant på de exponerade stiften.”
I ett uttalande till BBC bekräftade Amazon Alexas beteende och sa: “Så snart vi blev medvetna om det här felet vidtog vi snabba åtgärder för att fixa det.” Livdahl twittrade igår att det inte längre fungerade att be om en utmaning. När vi testade uppmaningen med Alexa kunde vi inte få ett liknande resultat idag, och även om vi bad om en utmaning från webben fick vi inget svar eller drogs från en mycket begränsad pool.
):no_cdn.com:no_cdn.com /uploads/chorus_asset/file/23130939/alexa_challenges.jpg "Alexa sa till ett barn att göra en potentiellt dödlig ‘utmaning’")
Alexas svar på förfrågningar om en utmaning den 28 december, efter att Amazon fixat detta specifika svar. Bild: The Verge Amazon är inte det enda företaget som stöter på problem när de försöker analysera webben för innehåll. I oktober rapporterade en användare att Google visade potentiellt farliga råd i ett av sina utvalda utdrag om du Googlede “hade ett anfall nu vad” – informationen den visade var från avsnittet på en webbsida som beskrev vad man inte ska göra när någon hade en beslag. Vid den tidpunkten bekräftade The Verge användarens rapport, men det verkar ha åtgärdats baserat på tester vi gjorde idag (inget utdrag visas när Googling “hade ett anfall nu vad”).
Googles söksammanfattning kontra den faktiska sidan pic.twitter.com/OJxt1FrBqh
— ウィアブー リンデン (@soft) 16 oktober 2021
Användare har dock rapporterat andra liknande problem, inklusive en användare som sa att Google gav resultat för ortostatisk hypospänning när man söker efter ortostatisk hyperspänning, och en annan som postade en skärmdump av Google som visar fruktansvärda råd för att trösta någon som sörjer.
Vi har också sett varningar om farligt beteende förstärkta för att göra problemet större än det ursprungligen var – tidigare den här månaden stängde vissa amerikanska skoldistrikt efter självupprätthållande av rapporter om skotthot på TikTok. Det visade sig att eldstormen i sociala medier till övervägande del orsakades av att folk pratade om hot, långt mer än alla hot som kan ha funnits. I fallet med Alexa valde en algoritm ut den beskrivande delen av en varning och förstärkte den utan det ursprungliga sammanhanget. Även om föräldern var där för att omedelbart ingripa, är det lätt att föreställa sig en situation där så inte är fallet eller där svaret som delas av Alexa inte är så uppenbart farligt.
Livdahl tweetar att hon använde tillfället att “gå igenom internetsäkerhet och inte lita på saker du läser utan forskning och verifiering” med sitt barn.
Amazon svarade inte omedelbart på The Verges begäran om kommentar .
Uppdatering 28 december, 16:37 ET: Lade till ytterligare information om Alexas svar på samma fråga nu.