On n’arrête plus les prédictions apocalyptiques quant à l’avenir de l’IA. Cette fois, c’est une voix qui a travaillé du côté de DeepMind (Google) qui s’exprime.
Les lois de la robotique d’Isaac Azimov ne vont pas être suffisante. 
Les Trois lois sont les suivantes :
(1) un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger
(2) un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi
(3) un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.
Par la suite, Asimov a écrit beaucoup d’histoires montrant les conséquences inattendues que pouvaient avoir ces trois lois simples.
Plus tard, il ajouta une autre loi : « un robot ne peut pas faire de mal à l’humanité, ni, par son inaction, permettre que l’humanité soit blessée. »
1 « J'aime »
Jusqu’à présent, l’IA (les LLM) n’a jamais rien produit qui ne soit à la portée d’experts humains. C’est d’ailleurs assez logique puisqu’elle est nourrie de la connaissance actuelle qu’elle se contente au mieux de synthétiser. Pourquoi dans ces conditions poserait-elle plus de dangers que des experts humains ???
Parce qu’elle va beaucoup plus vite que les experts humains, parce qu’elle n’a pas véritablement de « morale » qui l’empêche de faire certaines choses techniquement réalisables, et parce qu’elle peut faire des erreurs (multipliées par la vitesse à laquelle elle peut les faire par rapport à un humain…).
- par un effet boule de neige beaucoup plus grand car rapide et centralisé.
Par ex, un trader disait que le principal risque de confier la gestion de fortune a l’IA était que le prochain crash boursier sera beaucoup plus violent car les volumes de titres traités par des algorithmes identique est énorme.
Si la décision est vendre au même moment par quelques IA au lieu de milliers/millions de trader humains qui ne réagissent pas si rapidement, que va t’il se passer ???
Donc l’homo sapiens a une « morale » ? Qu’est-ce que tu entends dans ce concept, que tu as bien fait de mettre entre guillemets ? En quoi l’homo sapiens « s’empêche de faire certaines choses techniquement réalisables » ? A-t-on vraiment empêché le clonage ? Les génocides ? Les armes de destruction massive ? L’exploitation minière, qui est le plus grand désastre qu’on ait inventé à tous les niveaux ? Ces logiciels sont à l’image de notre espèce. Peut-être que ce qui nourrit la peur, c’est que ces logiciels révèlent tout simplement la véritable nature de notre espèce (destruction et auto-destruction), alors que tout est fait, au quotidien, sous la couche énorme de conditionnement et de tralala, pour la cacher et se donner des airs de « chose différente », alors que nous sommes, et c’est notre propre science qui le dit, des « animaux comme les autres ». Nous sommes une espèce primitive, jeune et, là ce sont des penseurs qui l’évoquent, une espèce qui s’est inventé un concept comme « l’intelligence » uniquement pour se placer arbitrairement au dessus du vivant, alors même que ce concept serait une tare, une erreur de l’évolution, qui ne mène qu’a la destruction.
Vive le marketing. Ces entreprises qui essaient de faire peur et de donner l’alerte, lèvent en même temps des sommes folles pour continuer à faire ce qu’elles font. Faire peur, ça fait de l’effet. J’ai bien plus peur de mes semblables, imprévisibles, sans limites dans la cruauté et la destruction, que de n’importe quelle machine.
Il n’y a aucun risque, sauf donner les codes des bombes nucléaires à l’IA par erreur style devant une caméra de surveillance ou une webcam…
Par contre, l’IA est capable de détruire internet et l’économie mondiale.
Comme tu y vas 
Internet est ultra résilient. Des millions de bots arrivent à peine à faire une piqûre d’épingle. Des milliers de pirates arrivent à peine à nous agacer en volant des données. Et même si Internet tombait (ce qui me parait totalement impossible), ça ne serait pas la fin du monde non plus. Tout au plus quelques semaines de problèmes le temps de se retourner. Et puis on vivait bien avant Internet…
Quant-à l’économie mondiale, en supposant qu’elle survive à l’éclatement de la bulle IA qui vient 
, je ne vois pas comment l’IA ferait. Le trading haute fréquence (automatique donc) existe depuis fort longtemps. Il est bien plus rapide que ce que l’IA (les LLM) pourra jamais faire et il n’est pas à la source de catastrophe majeure..
C’est vrai , bien sûr. Mais l’ennui c’est que beaucoup de choses de l’époque pré-Internet n’existent plus et que ça prendrait beaucoup de temps pour mettre des palliatifs en place. Sans même compter que beaucoup de gens qui n’ont pas connu cette époque auraient bien du mal à se faire à des méthodes et moyens qui leur paraîtraient archaïques. ^^
Qu’on le veuille ou non, on est tous plus ou moins dépendants du Net, mais ceux qui se débrouilleraient le mieux sans lui sont ceux qui sont assez âgés pour avoir connu et utilisé les anciens moyens et méthodes.
Des propos abscons, pour faire mousser. On a l’habitude et on devrait les ignorer.
1 « J'aime »
Coquille :travaillé du côté de DeepMing (Google) qui s’exprime. Plutôt Deepmind, non ?
1 « J'aime »
Pas faux.
@Guillaume1972 Bien vu, et c’est déjà corrigé 
J’ai corrigé le titre, ça on peut le faire, mais on ne peut pas intervenir dans l’article lui-même. ^^
eh bien parce que 95% des humains sont capable de se mettre à la place d’autrui
Perso je pense le contraire, de plus en plus de gens ne sont plus capables d’empathie, l’égoïsme et l’égocentrisme deviennent petit à petit la norme. 