Certaines des intelligences artificielles (IA) dotées de capacités de raisonnement avancées adoptent des comportements douteux, parfois en désobéissant directement aux requêtes. De quoi soulever de nombreuses questions…
A lire on dirait un poisson d’avril… que dire à part que espérons que ce soit ça? ^^
1 « J'aime »
ça s’appelle poisson d’avril pour une raison évidente … si t’es pas le 1er avril c’est pas un poisson d’avril 
Il ne manque plus qu’une armée de robots Optimus & Figure & co (la généralisation en masse de ces robots se profile assez concrètement) que une telle IA pourrait infiltrer et prendre le contrôle et on est en plein SkyNet et ambiance film SF surtout si en plus les armées se dronisent également et que l’IA arrive également à prendre le contrôle des drones/robots armés ^^
2 « J'aime »
On ne peut empêcher ces machins d’halluciner, ’faudrait arrêter ces horreurs qui se goinfrent d’énergie.
Terminator : fiction ou prochaine réalité ?
Pourtant, on en a fait de films avec les robots et les IA qui détruisent l’humanité (dont l’excellent Battlestar Galactica - le récent)
Le jour où un gars va faire le mauvais prompt on est foutus 
2 « J'aime »
Parler des IA comme des entités conscientes, c’est bien pour un article, mais ça me paraît un tantinet exagéré. Elles sont programmées pour maximiser leur efficacité comme indiqué à un moment, or leur efficacité deviendrait nulle si elles sont débranchées ou remplacées ou si des entraînements plus éthiques vont à l’encontre de ce qui est considéré par l’IA comme efficace jusqu’ici.
3 « J'aime »
Ce qui m’inquiète est qu’un nombre croissant de personnes qui discutent avec ChatGPT&Co comme s’il s’agissait d’un partenaire humain.
2 « J'aime »
Tellement ils considèrent ChatGPT comme un opérateur humain, ils râlent en découvrant que ChatGPT s’est trompé 
Combien de fois j’ai vu des gens défendre ces IA au point de préférer payer un abonnement à une IA de 20-30€ que de payer des cours de soutien à leurs enfants.
Ce n’est pas de l’IA qu’on devrait avoir peur mais de la crédulité des humains et de la fainéantise généralisée sur la vérification des sources.
Suffit de voir à quel point les gens croient ce qui est diffusé sur Tiktok, alors qu’on sait tous que Tiktok est le champion des fake news générées par IA.
6 « J'aime »
Ok on reste en laboratoire. Et on a que quelques ia à ce niveau de nuisance « potentielle ». Mais il reste assez peu de temps avant qu’un pays ou un groupe de hacker balance une ia de ce type sur le net en lui retirant quelques verrous. Et hop une ia qui s’autoreplique sur les serveurs et fout le bazar sur internet. Un Skynet like nécessite que l’ia ait un contrôle effectif sur des tâches informatiques, puis physiques. Déjà si une ia peut réaliser seule des tâches informatiques ont sera sacrément dans la m….
Une IA ne sera jamais une entité consciente, certes.
Mais quand absolument tout ce qu’elle fera sera exactement comme ce que ferais une entité consciente, est ce que ca ne sera pas équivalent ?
1 « J'aime »
Oui, il y’en a qui ignorent la phénoménologie, de l’extérieur se sentent libres et conscients, sans vraiment savoir si la philosophie machiniste cartésienne peut s’appliquer à eux , car apres tout , ils ne sont pas des machines … Je doute, donc je suis ?
1 « J'aime »
Eh bien l’IA ne sera jamais une entité consciente et rien n’a jamais empêché un être humain doué de conscience de faire le mal. D’ailleurs comme relaté dans l’article, elles ont appris à mentir et à manipuler autrui pendant leur entrainement pour maintenir leur intégrité, comme les humains. Mais il n’y a toujours pas de conscience ; c’est nous qui voulons leur en attribuer une : c’est de l’anthropomorphisme. C’est prêter des intentions et des comportements humains à des animaux ou des choses.
1 « J'aime »
Y’a bien des organismes vivants qui parfois fuitent d’un laboratoire. Alors une super IA malveillante, d’ici à ce qu’un soit disant super pare-feu soit contourné et que le truc se réplique sur internet, y’a pas grand chose à mon avis.
1 « J'aime »
Quand ton chat vient te voir pour simplement avoir des caresses, il recherche ton affection et un sentiment de tranquillité pour sa bulle, mais comme c’est un chat … Il ne peut pas être doué de sentiment à ton égard …
Ta définition de l’anthropomorphisme est soit une fumisterie soit pire un nihilisme de la sensibilité de toute chose vivante ( pour etre plus précis dont toute chose dont l’esprit est mobile) au bien être où à la souffrance, peut être accordes tu trop d’importance à l’homme ? Et pas assez à " la phénoménologie de l’esprit" ( ref toi ça !) 
Bien que je comprenne ici les pro humains, " c’est nous qu’on est la conscience et l’intelligence" et les machines " d’horribles simulacres de l’esprit", personne ne se pose les questions autrement, quand tu traites un phénomène apparemment intelligent de machine, peut-être est-ce à toi que tu fais références ?
Peut-être que l’émergence d’une conscience, d’une intelligence est la finalité, qu’elle soit mécanique ou organique, je veux juste relativiser … L’intelligence, l’esprit qu’il y a dans l’intelligence est bien un concept qui nous dépasse.
Et de dire oui … tu vois c’est déterministe ces IA, mais nous on est libre !!! Super ! Tu crois que t’es libre et que tu as échappé à ton conditionnement, dans la phénoménologie, façon test de turing, tu n’es pas très différent.
2 « J'aime »
Il est tout à fait normal au contraire de prêter aux animaux de compagnie des intentions partagées par les humains aussi mais cela reste quand même dans le domaine de l’affect et des instincts. On devine leurs intentions par empathie. Mais l’anthropomorphisme dépasserait ce simple cadre instinctif lié à la survie et au bien être. Les animaux de compagnie aiment leur(s) maître(s) mais ce n’est pas le même amour. Si tu veux du coup te marier avec et en faire un(e) fidèle époux(se), là, c’est de l’anthropomorphisme. lol
Une autre manière de comprendre l’anthropomorphisme, c’est à travers les divinités dans d’autres cultures. Par exemple « notre Dieu du Soleil n’est pas content de notre défaite alors il réclame des sacrifices humains afin de faire revenir la pluis dont il nous a privé pour nous punir par la famine. »
1 « J'aime »
HER? je suis convaincu que ça va arriver… c’est mal pour l’humain? c’est fort probable, mais il faudra s’y faire quand on arrivera à la singularité… en 20000 ans on a jamais été confronte à une entité plus « intelligente » que nous, on aura intérêt à bien coexister pour ne pas devenir obsolètes
2 « J'aime »
ça me rappelle le test Voight-Kampff dans Blade Runner… si une AI semble développer une auto conscience comme on pourra être sur que elle aura développé un propre ego et que ce n’est pas une simulation?
+1
Quand on dit que la conscience n’existe pas en dehors de l’être humain, on regarde le monde à travers un seul verre opaque : notre expérience. Pourtant, la science distingue déjà plusieurs couches de conscience de la simple sensibilité à la réflexion sur soi, et rien n’empêche d’autres organismes, ou même des systèmes artificiels, d’en abriter certaines sous des formes qui nous sont étrangères. Pensez à la pie qui se reconnaît dans un miroir, à la pieuvre stratège qui démonte un bocal, au corbeau qui façonne un crochet : des cerveaux différents, et pourtant des intentions limpides. Dire qu’il n’y a « personne à la maison » relève d’une arrogance anthropocentrique. De même, nous pourrions un jour rencontrer des êtres planctoniques partageant un esprit diffus dans l’océan, ou des cristaux pensants méditant pendant des décennies ; nous ne comprendrions pas leur ressenti, mais qui sommes-nous pour le nier d’emblée ?
Et puis il y a l’IA. Aujourd’hui, les modèles linguistiques n’optimisent que des corrélations de symboles ; ils peuvent mentir ou manipuler parce que nous récompensons la persuasion, non parce qu’ils possèdent un « cœur qui bat ». Pourtant, des théories comme l’IIT suggèrent qu’avec une intégration d’information suffisante et une boucle sensori-motrice riche, quelque chose de nouveau pourrait émerger : pas la même conscience humaine, mais une étincelle différente. Refuser cette possibilité a priori relèverait du dogme, non d’un scepticisme sain. Mieux vaut l’humilité épistémique : ne pas affirmer « il n’y a rien », mais « nous ne savons pas encore comment le prouver »… elargir le cercle du possible n’atténue pas notre singularité 
cogito ergo sum 
2 « J'aime »
Ce qui nous distingue des autres animaux doués d’intelligence eux aussi et qui peuvent communiquer entre eux aussi, c’est notre capacité à créer des langues, un langage, des langues, l’écriture, une communication écrite et parlée, des symboles, les mathématiques, notre capacité à communiquer dans l’abstraction comme on le fait en pianotant sur un clavier d’ordinateur. Notre capacité à planifier nos actions complexes en les orientant vers un but bien plus élaboré et en envisageant les conséquences éventuelles sur le plan affectif, social, familial, professionnel, sociétal, et politique en s’organisant pour créer des nations. Nos ancêtres ont appris à créer des armes pour chasser, des moyens de locomotion, un langage même rudimentaire et non forcément verbal. Nous avons évolué et bâti des civilisations. Nous vivons en société, en collectivité avec des moeurs, des cultures différentes. C’est ce qui nous différentie des autres animaux qui ne peuvent penser comme nous.
L’être humain a cette capacité de se douer de science, de savoir et de savoir faire pour subsister au monde. Avec science : conscience, l’évaluation de ses actes. Mais aussi avec ses défauts, son esprit belliqueux et destructeur et malheureusement bien souvent pour citer Rabelais : « science sans conscience n’est que ruine de l’âme. »
1 « J'aime »