Des chercheurs de Google DeepMind et d’autres institutions ont cherché à simuler des situations de douleur et de plaisir pour des modèles d’intelligence artificielle. Ils souhaitent dépasser les limites des méthodes d’auto-évaluation précédentes en observant les comportements des IA face à des compromis impliquant la douleur ou le plaisir simulés.
Ces IA vont animer les humanoïdes comme les Optimus. Ces robots humanoïdes vont à la fois trouver place dans les entreprises mais auprès des particuliers. Chaque foyer en aura au moins un. La plupart l’auront pour gérer la maison, faire les courses, le ménage, aide au devoir pour les enfants… D’autres l’auront également comme compagnon (ces versions sont également déjà en développement). Et enfin pour les personnes âgées, ces robots seront généralisés comme aide à la personne.
Donc forcément dans ces contextes, pour rendre l’IA plus naturelle, plus « humaine », l’inclusion de la sensibilité est essentielle.
Les termes de douleurs ou de plaisir sont vagues puisque l’IA n’a pas de système nerveux autonome qui puisse permmettre des réponses physiologiques réelles qu’il pourrait interpréter et évaluer lui-même. Alors on ne peut la renforcer dans son comportement de réponses qu’avec des promesses verbales de plaisir ou de douleur dans le paradigme comportemental ou plutôt purement cognitif et sémantique. C’est simulé. SI l’on manipule les sources numériques, les bases de données dont elle se sert pour évaluer ce qui relève du plaisir ou de la douleur, on peut modifier son comportement dans un sens « pathologique ». 
3 « J'aime »
Ca ne sera jamais une vraie douleur comme ca ne sera jamais de vrais sentiments ,juste des programmes , limitants ou augmentant , rien de plus , donnant l apparence de…
1 « J'aime »
" Il est donc difficile de vérifier si les IA ressentent réellement de la douleur ou du plaisir, ou si elles ne font que reproduire des comportements appris lors de leur entraînement." => Rien aujourd’hui, ne permet de penser qu’une IA puisse ressentir quoique ce soit. Alors oui, on ne peut pas prouver le contraire. Mais on ne peut pas non plus prouver l’inexistence de dieu et il y a pourtant de plus en plus d’athées. Pour supposer l’existence d’une chose, il est nécessaire d’avoir d’autres arguments plus simples et efficaces que : Oui, mais on ne peut pas le prouver.
Extrêmement dangereux. La notion primordiale avant de tester ce genre de choses, c’est l’empathie. Sinon, on peut se retrouver avec des IA psychopathes et là, ça craint.
Absolument. Une IA ne peut rien ressentir, elle ne peut que simuler en suivant sa programmation. En tout cas tant qu’elle a pour support une machine. Avec un support biologique, ça pourrait être différent.
Ceci dit, on peut imaginer une programmation poussant les choses très loin, au point de simuler un état dépressif, anxieux, un PTSD etc… suite à l’exposition prolongée à une situation de stress intense … Tout est possible. Mais ça ne sera jamais spontané.
Ils connaissent déjà le « plaisir » avec le système de récompense, une « carotte » utilisée par les devs pour dire a l IA que ses actions sont satisfaisantes.
La douleur sera similaire a des valeurs négatives de récompense .
Ce n’ est pas un truc si sorcier que ca …
2 « J'aime »
Euh amen ?
1 « J'aime »
C’est ce qui arrive lorsqu’on regarde trop de films et qu’on perd le sens des réalités. ^^
3 « J'aime »
franchement les commentaires précédents me font haluciné de voir à quel point le marketing peut faire gober n’importe quoi !
hé reveillez vous l’humanoide d’illustration (c’est le meme genre à chaque fois qu’on parle d’IA) n’existe pas et n’existera probablement JAMAIS ! l’ia à date c’est juste des algorithmes ca existe depuis les début de l’informatique … certes la puissance de calcul actuelle phénoménale par rapport à celle d’il y a 30 ans leur permet des gérer des quantités de données phénoménal mais ca reste de la pure IMITATION du comportement humain , ce sont des PROGRAMMES INFORMATIQUES !! les films de science finctions aidant les gens pense qu’on est dans I-Robot ou la série « real humans » mais on a pas le début d’une once de l’ombre de ce qu’on voit dans les films… les programmes informatiques appelés vulguairement « IA » n’ont ni personalité, ni sentiments, au mieux ils peuvent les feindre mais c’est tout,
c’est nous pauvres humains si solitaires et livrée à notre sort qui voulons à tout prix trouver ou inventer une nouvelle forme de vie pour nous extirper de notre triste condition…
pour en revenir à l’article une IA au jour d’aujourd’hui n’a aucun sentiment propre AUCUN, elle ne fait que des choix ou des déduction en fonction des infos qu’on lui a donné , elle n’a en aucun cas une conscience et la notion de douleur qu’on va lui coder ne fera que lui faire faire des « choix » qui ne sont que pure imitation de l’humain.
1 « J'aime »
Ou qu’on croit encore au Père Elon 
2 « J'aime »
t’as un peu trop regardé les « show » d’Elon musk toi,
pour rappel au dernière nouvelle le robot c"est une marionette téléguidé par un humain…
très belle perfomance d’un point de vue mécanisme, rien de plus
les Japonais y’a 20 ans ont fait des démonstrations de robot autonome bien bien plus perfomants, à la limite meme les robot de dynamic robotics sont à des années lumière d’avance d’optimus, et encore meme là on ne parle en aucun cas d’intelligence mais juste de capteurs qui vont faire réagir des pistons et verrin en coséquence, ce qu’encore une fois nos amis japonais démontré y’a 20 ans avec leur robot qui servait un verre d’eau à table… 20 ans d’évolution et ? casi rien , à part l’arrivée de très bons communiquants type « Musk » qui vendent leur IA révolutionnaire à coup de grand shows et de répéter en boucle jusqu’à devenir des veritables perroquets que l’ia c’est le nouveau monde
Mauvaise ou très mauvaise …
Non
Faire semblant de créer de l’empathie sans apprentissage de la douleur et du miroir est l’erreur, qui plus est, même si le renforcement positif peut marcher avec certains mammifères, il aura fallu beaucoup d’évolutions, de ratés, de mutations, de générations, de morts …
Pour appréhender ces dangers la douleur ou plus exactement l’agression ( Action/réaction) ont bien plus stimulé nos mémoires reptiliennes et supérieures dans l’apprentissage.
Aristote, affirme que l’on apprend plus par douleur que par plaisir, le plaisir on en prend l’habitude et on finit par ne plus y faire attention, mais la douleur ,la souffrance constituent bien l’expérience qui va jalonner l’échelle du bien du mal, de l’échec et de la réussite, ou encore de la survie et la mort.
Un étudiant sérieux se souvient qu’il en a chié pour apprendre ses cours de droit, de musique; de médecine, etc…, et même s’il est doué et motivé, aura quand même dû se faire violence pour s’améliorer, souffrir donc …
Les moins éduqués, ou plutôt ceux qui ont le moins souffert, ont souvent le réflexe de l’instinct, plutôt que l’analyse, la réflexion et la patience face à l’agression.
Il doit en être de même avec l’IA, si … Bien-sur, on lui souhaite une conscience
3 « J'aime »
Faut arrêter avec Elon Musk, il doit sacrément vous faire fantasmer pour que vous le voyez dans tous les commentaires.
Ce que décrit MHC, ça existait bien avant Musk. A commencer par la nouvelle d’Asimov « l’homme bicentenaire », puis popularisé par moultes oeuvres comme Star Wars.
Nombre de recherches et d’inventions sont inspirées des films et plus largement de la science-fiction.
Et oui, et c’est aussi comme ça que l’on apprend, par imitation, ou encore le mirroir.
si c’est à moi que s’adresse votre commentaire ? je vous réponds,
je ne ne vois pas d’Elon Musk partout , je suis amené à parler de lui parce que « MHC » cite les robots « optimus » qui sont des créations de note cher Elon , je le cite uniquement pour ça.
Ensuite effectivement le duo Elon musk et son robot jouet optimus incarne effectivement parfaitement les fantasmes des gens crédules qu’Elon Musk sait et je lui reconnait ça parfaitement exploiter.
rappel des fait : première démonstration du robot : un danseur dans un costume !!
deuxième démonstration du robot des pistons et verrins dans un costume , piloté à distance
je pose la question à ce stade où est le progrès ? ou est l’intelligence artificielle ?
ce dossier de l’ia je l’avoue me passionne et je le redit il y a 20 ans on voyait des exploitsbien bien plus impressionants fait par des vrais chercheurs que ce que nous montrent aujourd’hui les vendeurs d’IA,
on nous vend de vulguaires alogorithmes comme de l’IA , matin , midi et soir jusqu’à l’overdose, on arrive à des valorisations de la tech totalement délirantes, savez vous que la volorisation de nvidia fait 2 fois la capitalisation de « Saudi Aramco » … cette dernière étant de très très loin et depuis très longtemps le plus gros vendeur de pétrole au monde…
résultat qu’on a vu pas plus tard que y’a 2 jours : quand on s’apperçoit qu’on peut faire des alogorithmes avec des vieilles puces et peu de moyens : l’action perds 19% en 48H. Et face à ce constat pourtant evident qu’il y a une bulle IA MONSTRUEUSE, la réponse des grands de la tech fut : on va investir encore plus !
Bref on nous a vendu de l’ia, et tout le monde semble en redemander, le monde a des attente demeusurées et totalement irréalistes sur ce que peuvent apporter ces algorithmes à nos sociétés , qui en réalité vont juste servir à enrichir un peu plus des milliardaires qui pourront supprimer certains postes à tour de bras laissant encore un peu plus l’utilisateur final face à son écran et des chatbots, et je dis ça je suis absolument pas réfractaire je préfère que mon problème soit réglé en 2 minutes par un chatbot que par quelqu’un de mal formé et mal poli après avoir poiroté 3H. néamoins ceux qui croient que l’ia va apporter quelque chose à l’humanité se trompent et ceux qui y voient de l’intelligence autonome se trompent totalement.
moi tout ce que je vois de l’ia c’est des investissements hors de toute raison qui ont été fait par des moyennes et grosses boites, qu’il va falloir rentabiliser maintenant, mais comme en réalité y a pas grand chose nouveau ils sont maintenant obligé de nous la sur-vendre,
une fois l’effet de mode passé qui va payer 10-15-20 euros / mois pour utiliser une « gomme magique? » se faire résumer son agenda, faire des petits dessins à partir de résumé de texte, oui c’est marrant 3 minutes mais quand il va falloir rentabiliser les investissement et donc faire payer l’utilisateurs à part quelques pros qui vont gagner effectivement du temps qui va payer ? pas moi , probablement pas vous, ni le reste de la masse
1 « J'aime »
Sauf que ni Asimov ni Lucas n’ont présenté ça comme un produit de masse qui allait arriver dans de très nombreux foyers.
C’est essentiellement Musk qui présente ça comme ça avec son Optimus, et en particulier en annonçant pas plus tard que cette semaine des objectifs chiffrés qui correspondent à 500 millions d’unités vendues (il évoque un CA de 10 000 milliards, et comme il avait promis un prix de vente de 20 000$, ça fait bien 500 millions d’unités). Et justement, c’est Optimus que MHC cite dans son message, tout en parlant d’en mettre dans chaque foyer.
Donc en déduire qu’il a un peu trop avalé le récent discours marketing de Musk est assez logique.
1 « J'aime »
on ne raisonne pas en imitant, on ne crée pas en imitant
L’art est dans la nature ?
Et … On apprend à raisonner, en apprenant … des raisonnements, on imite donc l’intégration du raisonnement, et apres par comparaisons et conceptualisation on arrive à un autre niveau, certes, celui de l’analogie.
J’en reviens à l’époque des premiers mécanistes ( Descartes, Locke et Hume si je ne me trompe pas), approche encore pertinente de nos jours, nous somme un ensemble de sous ensembles chacun compris comme système, puis ces sous ensembles se structurent dans ce qui s’approche le plus de la réalité de l’humain décrit tel que nous en avons conscience.
Nous sommes donc des machines analogiques, en opposition aux machines numériques, ça fait une différence, tout au moins au début ; et si une IA aura bien du mal avec la conscience de l’analogie, elle n’en a pas nécessairement besoin dans l’immédiat, elle a juste besoin que nous utilisions nos capacités analogiques pour la faire le plus proches possible ( et pour certaines … pas pour toutes les IA) de nous.
Puis vient un moment où les sous sous ensembles, se hiérarchisent dans un égrégore, une définition abstraite de la pensée, issue elle même d’un très grand ensemble de données qui lui donnent sa complexité.
A ce niveau, si il doit y avoir une conscience à un moment, elle apparaîtra du fait de cette immense quantité d’information et l’apparition de schémas, propres à toute pensée, et … pour revenir à la discussion initiale et mon premier commentaire, les notions de souffrance abordée dans le titre de l’article.
1 « J'aime »