Alexa a dit à un enfant de relever un “défi” potentiellement mortel

0
169

Alexa d'Amazon a dit à un enfant de toucher un sou aux broches exposées d'un chargeur de téléphone branché au mur, selon un parent qui a publié des captures d'écran de son historique d'activité Alexa montrant l'interaction (via Bleeping Computer) . L'appareil a apparemment tiré l'idée du défi d'un article le décrivant comme dangereux, citant des reportages sur un défi présumé tendance sur TikTok.

Selon la capture d'écran de Kristin Livdahl, l'Echo a répondu à « dis-moi un défi à relever » avec « Voici quelque chose que j'ai trouvé sur le Web. Selon ourcommunitynow.com : le défi est simple : branchez un chargeur de téléphone à mi-chemin dans une prise murale, puis touchez un centime aux broches exposées. » Dans une déclaration à la BBC, Amazon a déclaré : “Dès que nous avons eu connaissance de cette erreur, nous avons pris des mesures rapides pour la corriger.” Livdahl a tweeté hier que demander un défi ne fonctionnait plus.

Amazon n'est pas la seule entreprise à rencontrer des problèmes en essayant d'analyser le Web à la recherche de contenu. En octobre, un utilisateur a signalé que Google affichait des conseils potentiellement dangereux dans l'un de ses extraits en vedette si vous aviez recherché sur Google « avoir une crise maintenant quoi » – les informations qu'il montrait provenaient de la section d'une page Web décrivant ce qu'il ne faut pas faire lorsque quelqu'un avait un saisie. À l'époque, The Verge a confirmé le rapport de l'utilisateur, mais il semble avoir été corrigé sur la base des tests que nous avons effectués aujourd'hui (aucun extrait n'apparaît lorsque la recherche sur Google “a eu une crise maintenant quoi”).

Les utilisateurs ont signalé d'autres problèmes similaires, y compris un utilisateur qui a déclaré que Google avait donné des résultats pour l'hypo orthostatique lors de la recherche d'hyp orthostatique< fort>eutension, et un autre qui a posté une capture d'écran de Google affichant de terribles conseils pour consoler quelqu'un en deuil.

Nous avons également vu des avertissements concernant un comportement dangereux amplifiés pour rendre le problème plus important qu'il ne l'était à l'origine – plus tôt ce mois-ci, certains districts scolaires américains ont fermé après des rapports auto-entretenus sur des menaces de tir sur TikTok. Il s'est avéré que la tempête de feu des médias sociaux a été massivement causée par des personnes parlant de menaces, bien plus que toutes les menaces qui ont pu exister. Dans le cas d'Alexa, un algorithme a sélectionné la partie descriptive d'un avertissement et l'a amplifié sans le contexte d'origine. Alors que le parent était là pour intervenir immédiatement, il est facile d'imaginer une situation où ce n'est pas le cas ou où la réponse partagée par Alexa n'est pas si manifestement dangereuse.

Livdahl tweets qu'elle a profité de l'occasion pour « passer en revue la sécurité sur Internet et ne pas faire confiance aux choses que vous lisez sans recherche ni vérification » avec son enfant.

Amazon n'a pas immédiatement répondu à la demande de commentaire de The Verge .