Forum Clubic

Commentaires : Amazon aurait secrètement entraîné l'IA d'Alexa à l'insu de ses employés

On en sait désormais un peu plus sur la manière dont Alexa, l’assistant personnel intelligent d’Amazon, a été développée. Utilisée notamment sur les enceintes connectées
de la gamme Echo, Alexa aurait été « entraînée » par des salariés de la firme à leur insu.

2 J'aime

Je serai curieux de lire cet ouvrage car je vois pas comment les employés faisaient des trucs « malgré eux ». On leur demande de lire des questions à voix hautes dans des pièces témoins…

A moins d’être complètement idiot, c’est pas dur à comprendre que c’est fait pour de l’analyse. Et même si le projet Echo était secret et que les employés ne savait pas que c’était pour ça, ils devaient bien se douter que c’était pour quelque chose de ce genre.

De plus la mission devant être accepté, il n’y a pas vraiment de problème.

8 J'aime

On a rien sans rien …

1 J'aime

« Si les brebis sont faibles et stupides, ce n’est pas la faute du renard, donc tout va bien ! »

Je ne suis pas sûr que la naïveté des employés soit une bonne excuse pour les exploiter à leur insu notamment concernant des données qu’ils ont explicitement refusé de partager, d’après l’article.

2 J'aime

Comment ça ? Certaines sociétés/organisations n’hésitent pas à comploter à l’insu des gens pour Prendre/Garder/Upgrader leur contrôle ? Bin ça alors, Amazon vilain. Que je suis déçu…

2 J'aime

Et des mecs hébergent leurs données (notamment d’entreprise) sur AWS.
Bien sûr qu’elles sont scannées dans tous les sens ^^.
A la naïveté…

1 J'aime

Ceux qui ont accepté la mission ne sont pas exploités à leur insu vu qu’ils l’ont signé !

De plus ces « données » ne sont pas les leurs vu que c’est fourni. Et qu’il ne s’agit que de questions basiques (comme : quel temps fait-il ?) qu’ils doivent lire.

Vous avez vraiment lu l’article avant de commenter ?

Le seul « hic » c’est que l’enregistrement n’était pas indiqué.

Si on te demande de lire des phrases en vrac à voix haute juste comme ça dans une pièce ça t’interpelle pas ?

1 J'aime

« Ceux qui ont accepté la mission ne sont pas exploités à leur insu vu qu’ils l’ont signé !.. Vous avez vraiment lu l’article avant de commenter ? »

  • Amazon aurait secrètement entraîné l’IA d’Alexa à l’insu de ses employés
  • Plusieurs salariés de la firme auraient alors refusé une mission de leur employeur en voyant les pièces fournies
  • Des salariés d’Amazon participent au développement d’Alexa malgré eux
  • Silence d’Alexa, d’Amazon comme d’Appen

Du coup, j’ai moi-même l’impression que vous n’avez pas lu l’article, c’est marrant, ça… Enregistrer des salariés à leur insu et sans leur accord explicit, c’est illégal.

Que d’autres salariés se rendent complice de ce larcin, c’est un autre sujet. Les victimes ce sont les personnes enregistrées à leur insu.

Encore une fois « Si les brebis sont faibles et stupides, ce n’est pas la faute du renard, donc tout va bien ! ».

Bah a ce compte là, autant leur dire a quoi tout cela sert, qu’ils vont être enregistrés et leur faire signer une clause de confidentialité plutôt que tout faire en loose day :shushing_face:

1 J'aime

Vous avez clairement pas lu correctement.

Déjà, y’a pas vraiment de secret. Les employés avaient un ordre de mission. L’objectif « final » de cette mission n’a pas forcément a être révélé. Mais les employés savaient ce qui leur était demandé.

Certains salariés ont refusés la mission. Et alors ? Moi aussi j’ai refusé des missions de mon employeur. Personne n’en a fait un drame.

Ils participent au développement d’Alexa malgré eux. Pas exactement. Les enregistrements auraient pu servir à un autre projet.

La seule chose dont amazon semble « coupable » c’est de ne pas avoir indiqué clairement que les employés étaient enregistrés.

Et encore, on a pas lu l’ouvrage en question (qui dit que le journaliste de Clubic a bien retranscrit les infos correctement…) On ne connaît pas les infos sur lesquels se base le journaliste de Bloomberg… (qui dit que lui aussi a bien des infos correctes ?).

Dans l’état actuel de cette news, il ne s’agit que de spéculation sur des infos non vérifiables.

1 J'aime

Je sens le scandale bien putaclick de la grosse méchante société multimilliardaire exploitant ses pôvres salariés sous payés. Mais où va le monde ma brave dame.
Pareil que plusieurs autres messages je ne vois pas comment les employés pouvaient ignorer à quoi servaient les objets connectés et les phrases déclamées à voie haute. Tout au plus ne savaient ils pas tous les détails du projets concernant le développement de l’IA mais je ne vois pas en quoi ce serait un tort de la part d’Amazon. Compartimenter les informations c’est normal quant on parle de développement.

2 J'aime

Plus l’éventualité très probable de quelques avocats d’affaire bien voraces qui ont vu une opportunité de se faire une fortune.

1 J'aime

neXt

Et sur leurs contrats de travail, une petite clause ne prévoyait pas ce cas de figure ?

Un gros buzz pour pas grand chose, apparemment !
Mon explication est que si les « employés » savaient qu’ils étaient enregistrés, ils auraient dicté les phrases avec un manque de naturel comme nous avons tous quand nous savons que nous sommes enregistrés ou filmés. A moins d’être des acteurs pro, le ton naturel de la voix est capitale pour l’IA, et la meilleure façon de garder ce naturel recherché est de cacher le fait de les enregistrer.
Claude Lelouch fait pareil lorsqu’il fait tourner une scène plusieurs fois à ses acteurs, et finit par garder systématiquement la première, car c’est elle qui a réunit l’aspect naturel recherché.

En tout cas le résultat est là, Alexa fonctionne vraiment bien. (j’ai remplacé mes google home par alexa).

Amazon aurait secrètement entraîné l’IA d’Alexa à l’insu de ses employés

Du coup, c’est Jeff himself qui a codé l’IA ?

Plus sérieusement :

La malice réside dans le fait que les collaborateurs d’Amazon n’étaient pas au courant que leurs propos étaient collectés afin de rendre Alexa la plus précise possible. Les Amazon Echo étant éteint, l’IA ne pouvait répondre aux questions, mais était néanmoins à même de transmettre les paroles à d’autres employés d’Amazon chargés de les analyser et permettre ainsi à Alexa de comprendre toujours plus de nouvelles demandes d’un niveau simple.

Ils croyaient quoi les employés ? Qu’ils devaient juste lire des questions dans le vide, comme ça, sans raison ?
Et je ne vois pas en quoi lire des questions préalablement rédigées pose un problème de vie privée…