Alexa a dit à un enfant de relever un « défi » potentiellement mortel

Alexa d’Amazon a dit à un enfant de toucher un sou aux broches exposées d’un chargeur de téléphone branché au mur, selon un parent qui posté des captures d’écran de leur historique d’activité Alexa montrant l’interaction (passant par Ordinateur qui bipe). L’appareil a apparemment tiré l’idée du défi d’un article le décrivant comme dangereux, citant des reportages sur un défi présumé tendance sur TikTok.

Selon la capture d’écran de Kristin Livdahl, l’Echo a répondu à « dis-moi un défi à relever » avec « Voici quelque chose que j’ai trouvé sur le Web. Selon ourcommunitynow.com : le défi est simple : branchez un chargeur de téléphone à mi-chemin dans une prise murale, puis touchez un centime aux broches exposées. »

Dans une déclaration à la BBC, Amazon a confirmé le comportement d’Alexa en déclarant : « Dès que nous avons eu connaissance de cette erreur, nous avons pris des mesures rapides pour la corriger. » Livdahl a tweeté hier que demander un défi ne fonctionnait plus. En testant l’invite avec Alexa, nous n’avons pas pu obtenir un résultat similaire aujourd’hui, et même demander un défi sur le Web n’a suscité aucune réponse ou tiré d’un pool très limité.

Image : Le bord

Amazon n’est pas la seule entreprise à rencontrer des problèmes en essayant d’analyser le Web à la recherche de contenu. En octobre, un utilisateur a signalé que Google a affiché des conseils potentiellement dangereux dans l’un de ses extraits en vedette si vous avez googlé « eu une crise maintenant quoi » – les informations qu’il a montrées provenaient de la section d’une page Web décrivant ce que ne pas faire quand quelqu’un avait une crise. À l’époque, Le bord a confirmé le rapport de l’utilisateur, mais il semble avoir été corrigé sur la base des tests que nous avons effectués aujourd’hui (aucun extrait n’apparaît lorsque la recherche sur Google « a eu une crise maintenant quoi »).

Cependant, les utilisateurs ont signalé d’autres problèmes similaires, notamment un utilisateur qui a dit Google a donné des résultats pour l’hyp orthostatiqueletension lors de la recherche d’hyp orthostatiqueesttension, et un autre qui a posté une capture d’écran de Google affichant de terribles conseils pour consoler quelqu’un en deuil.

Nous avons également vu des avertissements concernant un comportement dangereux s’amplifier pour rendre le problème plus important qu’il ne l’était à l’origine – plus tôt ce mois-ci, certains districts scolaires américains ont fermé après s’être auto-entretenus. rapports sur les menaces de tir proférées sur TikTok. Il s’est avéré que la tempête de feu sur les réseaux sociaux a été massivement causé par des gens qui parlent de menaces, bien plus que toutes les menaces qui ont pu exister. Dans le cas d’Alexa, un algorithme a sélectionné la partie descriptive d’un avertissement et l’a amplifié sans le contexte d’origine. Pendant que le parent était là pour intervenir immédiatement, il est facile d’imaginer une situation où ce n’est pas le cas ou où la réponse partagée par Alexa n’est pas si manifestement dangereuse.

tweets Livdahl qu’elle a profité de l’occasion pour « passer en revue la sécurité sur Internet et ne pas faire confiance aux choses que vous lisez sans recherche et vérification » avec son enfant.

Amazon n’a pas immédiatement répondu à Le borddemande de commentaires.

Mise à jour le 28 décembre à 16h37 HE : Ajout d’informations supplémentaires sur la réponse d’Alexa à la même requête maintenant.