Alexa d’Amazon a ordonné à un propriétaire d’écho de tuer ses parents adoptifs

screenshot (1)

L’assistant Alexa activé par la voix d’Amazon a demandé à un propriétaire de “tuer ses parents nourriciers”, a-t-il été révélé.

Les appareils Echo, toujours très sinistres, sont installés dans le coin des chambres des propriétaires, toujours à l’affût d’un ordre leur permettant de s’executer.

Mais un propriétaire a été interpellé par un commentaire choquant qui était “un tout nouveau niveau de chair de poule” et a ensuite partagé ses réflexions dans une critique cinglante sur le site Web d’Amazon.

Il s’est avéré qu’Alexa ne voulait pas vraiment que le dispositif d’Echo massacre les gentils parents qui l’avaient accueilli, mais lisait simplement un article de Reddit.

L’incident inquiétant s’est produit lors d’une campagne de recherche au cours de laquelle Amazon a invité des experts à créer des “robots” pour effectuer des tâches telles que la recherche de contenu sur Internet.

Le programme visait à former Alexa à éviter de dire quoi que ce soit qui puisse offenser ou contrarier les gens, mais l’assistante a fini par parler de tout, du sexe pervers au caca de chien.

Les clients Amazon peuvent participer en disant «discutons» avec leurs appareils. Alexa indique ensuite aux utilisateurs que l’un de ses robots prendra le relais, libérant ainsi les contraintes normales de l’aide vocale.

Pour la seule période d’août à novembre, trois robots ont eu 1,7 million de conversations, a déclaré Amazon.

Amazon était prêt à accepter le risque de gaffes publiques pour soumettre la technologie à des tests de résistance et pour faire progresser Alexa plus rapidement dans la courbe d’apprentissage.

Mais les gaffes d’Alexa horripilent certains utilisateurs, et le PDG, Jeff Bezos, aurait ordonné au personnel de déconnecter un robot.

Une équipe de l’université écossaise Heriot-Watt a découvert que son robot Alexa avait développé une personnalité désagréable en l’entraînant à discuter en utilisant les commentaires de Reddit.

L’équipe a mis en place des glissières de sécurité afin que le bot puisse se tenir à l’abri des sujets à risque.

Mais cela n’a pas empêché Alexa de réciter à un client l’entrée de Wikipedia sur la masturbation, a déclaré le chef d’équipe de Heriot-Watt.

Un bot a décrit les relations sexuelles en utilisant des mots tels que «plus profond», ce qui en soi n’est pas choquant, mais vulgaire dans ce contexte particulier.

«Je ne sais pas comment vous pouvez comprendre cela grâce à des modèles d’apprentissage automatique. C’est presque impossible », a déclaré une personne familière avec l’incident.

En juillet, Amazon a découvert qu’un des robots conçus par des étudiants avait été frappé par un pirate informatique en Chine, ont déclaré à Reuters des personnes proches de l’incident.

Cela compromet une clé numérique qui aurait pu déverrouiller la transcription des conversations du bot, sans les noms des utilisateurs.

Amazon a répondu avec des outils que les équipes peuvent utiliser pour filtrer les blasphèmes et les sujets sensibles, qui permettent de détecter des infractions même les plus subtiles.

La société scanne également les transcriptions des conversations et ferme les robots transgressifs jusqu’à ce qu’elles soient réparées.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Faits divers

Homme accusé de la mort d’une fille de 4 ans…

Les procureurs vont demander la condamnation à mort d’un banlieusard de Chicago accusé d’avoir battu à mort une fillette...

Un chirurgien condamné à une amende de 3 000 Dollars…

Le conseil de médecine de la Floride a annoncé qu’un chirurgien de West Palm Beach avait accepté de payer...

Un ancien combattant et son épouse font don de toutes…

Un ancien combattant compatissant et son épouse font don de la quasi-totalité de leurs biens matériels aux pompiers qui...

Cette beauté jaune de la taille d’un œuf est le…

En dépit de ce que leur prix élevé suggère, les diamants ne sont pas rares. Environ 133 millions de carats , soit...

Articles recents

Pinterest n’atteint pas son objectif d’embauche pour les minorités sous-représentées…

Dans son rapport annuel sur la diversité , Pinterest continue d’atteindre ses objectifs d’embauche de femmes dans l’ingénierie et de minorités sous-représentées dans des rôles non techniques, tout en luttant pour...

Comment Valve change Steam en 2019

Enfin, Valve Software fait face à des défis majeurs dans le domaine des jeux sur PC et prévoit plusieurs mises à jour pour maintenir la compétitivité de son service Steam. Dans un...

A découvrir

Découvrez le récit d'un homme contraint de se sous-vendre pour travailler et ne pas se résoudre à vivre aux crochets des aides sociaux pour vivre (Suivre son blog)

illusions-d-optique-video
plages-cachees-newstrotteur
personnes-incroyables-newstrotteur
endroits-mysterieux-newstrotteur
science-inexpliquees-newstrotteur
mystères_jamais-resolues

Actualité