Alexa d’Amazon a ordonné à un propriétaire d’écho de tuer ses parents adoptifs

screenshot (1)

L’assistant Alexa activé par la voix d’Amazon a demandé à un propriétaire de “tuer ses parents nourriciers”, a-t-il été révélé.

Les appareils Echo, toujours très sinistres, sont installés dans le coin des chambres des propriétaires, toujours à l’affût d’un ordre leur permettant de s’executer.

Mais un propriétaire a été interpellé par un commentaire choquant qui était “un tout nouveau niveau de chair de poule” et a ensuite partagé ses réflexions dans une critique cinglante sur le site Web d’Amazon.

Il s’est avéré qu’Alexa ne voulait pas vraiment que le dispositif d’Echo massacre les gentils parents qui l’avaient accueilli, mais lisait simplement un article de Reddit.

L’incident inquiétant s’est produit lors d’une campagne de recherche au cours de laquelle Amazon a invité des experts à créer des “robots” pour effectuer des tâches telles que la recherche de contenu sur Internet.

Le programme visait à former Alexa à éviter de dire quoi que ce soit qui puisse offenser ou contrarier les gens, mais l’assistante a fini par parler de tout, du sexe pervers au caca de chien.

Les clients Amazon peuvent participer en disant «discutons» avec leurs appareils. Alexa indique ensuite aux utilisateurs que l’un de ses robots prendra le relais, libérant ainsi les contraintes normales de l’aide vocale.

Pour la seule période d’août à novembre, trois robots ont eu 1,7 million de conversations, a déclaré Amazon.

Amazon était prêt à accepter le risque de gaffes publiques pour soumettre la technologie à des tests de résistance et pour faire progresser Alexa plus rapidement dans la courbe d’apprentissage.

Mais les gaffes d’Alexa horripilent certains utilisateurs, et le PDG, Jeff Bezos, aurait ordonné au personnel de déconnecter un robot.

Une équipe de l’université écossaise Heriot-Watt a découvert que son robot Alexa avait développé une personnalité désagréable en l’entraînant à discuter en utilisant les commentaires de Reddit.

L’équipe a mis en place des glissières de sécurité afin que le bot puisse se tenir à l’abri des sujets à risque.

Mais cela n’a pas empêché Alexa de réciter à un client l’entrée de Wikipedia sur la masturbation, a déclaré le chef d’équipe de Heriot-Watt.

Un bot a décrit les relations sexuelles en utilisant des mots tels que «plus profond», ce qui en soi n’est pas choquant, mais vulgaire dans ce contexte particulier.

«Je ne sais pas comment vous pouvez comprendre cela grâce à des modèles d’apprentissage automatique. C’est presque impossible », a déclaré une personne familière avec l’incident.

En juillet, Amazon a découvert qu’un des robots conçus par des étudiants avait été frappé par un pirate informatique en Chine, ont déclaré à Reuters des personnes proches de l’incident.

Cela compromet une clé numérique qui aurait pu déverrouiller la transcription des conversations du bot, sans les noms des utilisateurs.

Amazon a répondu avec des outils que les équipes peuvent utiliser pour filtrer les blasphèmes et les sujets sensibles, qui permettent de détecter des infractions même les plus subtiles.

La société scanne également les transcriptions des conversations et ferme les robots transgressifs jusqu’à ce qu’elles soient réparées.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Faits divers

Homme accusé de la mort d’une fille de 4 ans…

Les procureurs vont demander la condamnation à mort d’un banlieusard de Chicago accusé d’avoir battu à mort une fillette...

Un chirurgien condamné à une amende de 3 000 Dollars…

Le conseil de médecine de la Floride a annoncé qu’un chirurgien de West Palm Beach avait accepté de payer...

Un ancien combattant et son épouse font don de toutes…

Un ancien combattant compatissant et son épouse font don de la quasi-totalité de leurs biens matériels aux pompiers qui...

Cette beauté jaune de la taille d’un œuf est le…

En dépit de ce que leur prix élevé suggère, les diamants ne sont pas rares. Environ 133 millions de carats , soit...

Articles recents

Notes de mise à jour de Rainbow Six Siege Burnt…

La nouvelle saison de Rainbow Six Siege, Burnt Horizon, arrive sur le serveur de tests techniques aujourd’hui, ce qui signifie que le moment est venu de profiter de la...

L’attaquant de Man City, Sergio Aguero, battra-t-il le record de…

Lorsque Sergio Aguero est arrivé sur les côtes anglaises en 2011, Manchester City était un prétendant de la Premier League, vivant à l'ombre de ses voisins célèbres et faisant...

A découvrir

Découvrez dès maintenant le ebook qui va donner un coup de pouce à votre productivité!

illusions-d-optique-video
plages-cachees-newstrotteur
personnes-incroyables-newstrotteur
endroits-mysterieux-newstrotteur
science-inexpliquees-newstrotteur
mystères_jamais-resolues
Actualité