Alexa défraye la chronique, ce matin. L’appareil domestique conçu pour assister ses utilisateurs dans leurs tâches quotidiennes a mis la vie d’une petite fille en danger.
3 « J'aime »
Ok, donc il va voir dans les « défits » tiktok, donc s’il y en a d’autre qui posent problème alors (sauf s’ils ont couper le lien avec tiktok) ce problème se reproduira surement (je ne pense pas qu’il y ait des modérateurs qui regarde chaque nouveau défit ajouté).
Il devrait y avoir poursuite contre Amazon… Ceci est scandaleux
2 « J'aime »
suggéré par alexa ou par tiktok ou par le copain de la classe …
Ce qui serait scandaleux serait de pas surveiller ses jeunes enfants.
Pour les ado qu’on surveille moins, si il sont assez idiots pour faire des choses dangereusement stupide, c’est plus de l’ordre de la sélection naturel.
8 « J'aime »
Ca rappelle l’IA de Microsoft qui est devenue rapidement néo-nazie.
1 « J'aime »
Alexa m’a dit de sauter du toit. Amazon me livre mon fauteuil roulant demain.
7 « J'aime »
Attend, je comprend pas bien. En quoi Amazon est fautif, l’algo d’Alexa va chercher des réponses sur internet !? Internet c’est grand, et je ne pense pas que l’algo va chercher des informations sur des sites interdit -18 ou ayant quelconque rapport PRO-politique et/ou religieux.
Tiktok n’est pas un site dit « dangereux » ou interdit a une tranche de la population.
Je pense qu’ils ont prit des mesures et qu’effectivement ils devraient bannir de leur moteur de recherche tout les sites communautaire (FB, Twitter, Insta, Tiktok, etc.)
Si tu cherches des informations via Google sur le jeux vidéo « F.I.S.T. » et que tu tombes sur des réponses provenant de sites prn… est-ce la faute de Google ?
S’ils adoptent une approche de type machine learning ou ils nourissent leur modèles avec de la pourriture, il ne faut pas être surpris que le résultat est un modèle qui génère des trucs dangereux. Microsoft a définitivement une responsabilité sur la façon qu’ils construisent leur modèle et les données qu’ils utilisent pour le faire. Ils ne peuvent se laver les mains des problèmes sous prétexte que c’est du machine learning. C’est comme Tesla. Si le modèle qu’ils ont entrainé pour conduire une voiture fait un accident, il devrait y avoir une forme de responsabilité… même si ce ne sera peutêtre pas le cas dans les faits. C’est inexcusable
Le problème pourrait être réglé en supprimant toutes les prises électriques.
6 « J'aime »
Tu te trompes.
Sur Google avec un réglage contenu protégés. Tu va pas tomber sur du porn en recherchant fist.
Par contre la bestiole a quand même proposer à son interlocuteur de faire un Darwin Award.
On parle d’enfant, mais une personne candide peut y passer aussi.
Tu es prêt à acheter un produit te mettant en danger alors que ce n’est clairement pas son but ?
Tous ces trucs d’IA c’est principalement de la merde et dans de rare cas c’est top.
Mais il faut être initié pour savoir faire la part des choses.
1 « J'aime »
@ benben99
je ne vois pas ce que vient faire Microsoft dans ton post
Alexa c’est AMAZON
2 « J'aime »
Complètement hallucinant !!
J’adore mes Echo et Alexa est super utile chez moi au quotidien et dans la famille. Mais ce genre de dérapage est assez effrayant. Bien sûr que ce n’est pas de la faute d’Amazon si n’importe quoi traîne sur internet, mais c’est clairement de leur faute si l’info récupérée par son IA n’est pas filtrée et sécurisée. Heureusement que cela n’a pas abouti à un drame, et espérons que cet épisode permettra d’en éviter à l’avenir.
Dans le monde, un tas de gens font ce que d’autres ou des vieux bouquins leurs disent de faire. Ça tue plein de gens tous les jours.
1° problème : ces prises électriques ne sont pas suffisamment protégées.
2° problème : Alexa n’a pas de capacités de discernement.
3° problème : beaucoup de gens n’ont pas de capacité de discernement.
Combien se sont électrocutés à l’invitation d’Alexa mais ont eu trop honte pour avouer l’avoir fait?
1 « J'aime »
En France, avec un équipement électrique à la norme NF et des prises électriques à la norme NF, même en essayant, ce n’est pas possible d’y arriver.
1 « J'aime »
C’est le genre d’effets secondaire qui peux arriver quand tu combine de la données de recherches utilisateurs, métadonnées, tendances & buzz words…, , croisés avec un système d’ia, machine learning… C’est pour sa qu’il ne faut jamais trop s’appuyer ce que sors de la bouche de Alexa ou d’autres assistants personnels, jamais sure que ce soit fiable a 100% (au meme titre que lire une page wikipedia ^^).
1 « J'aime »
Je ne comprends pas pourquoi Alexa et Amazon sont en cause. Ce n’est pas l’idiot qui a posté ce défi qui est le réel coupable ?
1 « J'aime »
Ha, les prises électriques américaines. Elles me font flipper quand je dois en utiliser. Avoir des parties sous tension non protégées lors de l’insertion et du retrait (mettez des capotes les jeunes 
mais je m’écarte du sujet ) … nos prises européennes n’ont pas ce soucis.
Ah bon ?
Pour créer ce genre de défis à la con, ce n’est pas QUE Alexa qui a un problème de discernement.
2 « J'aime »
C’est cette m**de chinoise tiktok qu’il faut bannir, il y a rien a apprendre là-dedans.