Commentaires : ChatGPT, Claude, Llama... Le comportement des IA avancées commence à être très inquiétant

Débat sur l'actu
21

tu sous-estime les fourmis :wink: qui sont la depuis beaucoup plus de temps que nous, tu serais étonné de la performance civilisationnelle (agriculture, élevage, gerarchie etc) qui elles on bâti, même sans notre technologie basée sur l’invention du feu

le langage articulé, l’écriture, les mathématiques, la capacité de projeter des scénarios complexes… c’est vraiment la marque forte de notre espèce. Mais… et c’est là que ça devient intéressant… rien de tout cela n’est né de rien. Chaque brique s’enracine dans une continuité évolutive.

Les bonobos emploient des gestes et des vocalisations précises pour se coordonner, les dauphins utilisent des « sifflets-signature » qui fonctionnent comme des noms propres, les abeilles dansent pour coder des coordonnées spatiales. Ce n’est pas une syntaxe à notre manière, mais c’est déjà symbolique.
Les corbeaux de Nouvelle-Calédonie plient des brindilles en forme de crochet, étape par étape ; les macaques au Japon lavent leurs patates dans la mer en transmettant l’habitude aux plus jeunes. Planification ? Présente. Culture ? Aussi.
Les éléphants veillent leurs morts et les loups modulent la chasse selon le vent : évaluations sociales et affectives … peut-être moins ciselées que les nôtres, mais bien réelles.

Ce qui nous distingue, donc, ce n’est pas tant l’existence de ces capacités que la manière dont elles s’entrelacent et l’échelle à laquelle elles opèrent. Le duo langue-écriture a rendu notre mémoire collective presque illimitée… les maths nous ont offert un télescope braqué sur le cosmos et, oui, des armes terribles. Mais la racine est partagée : le besoin de représenter le monde et de nous coordonner.

C’est là que l’avertissement de Rabelais résonne fort : « science sans conscience… ». La faculté de modeler l’avenir ne suffit pas :melting_face: il faut la volonté de le faire sans piétiner les autres formes de vie, humaines ou non. Le défi n’est pas de revendiquer un trône d’unicité, mais de cultiver la responsabilité qui découle de cette petite avance.

2 « J'aime »
22

Bjr
Je vous cite vous mais j’aurais pu en cité un autre.
Je ne comprends pas votre " raisonnement " .
Ce que vous appelez singularité est issu d’une volonté d’une partie infime des humains de contrôler tous les autres par le biais de la surveillance généralisée et sou la coupe de super computer formés dans ce but.
C’est sur que si on accepte ce principe de singularité, c’est comme dans toute dictature, il vaudra mieux plier.
Mais de quel droit nous impose t on ce système de déments ?
D’ailleurs, il y a 90% de moutons, noirs ou blancs dans ce monde.
Depuis un an, TOUS les organes de presse, quelque soit son domaines, fait de l’endoctrinement systématique concernant ce qui es appelé IA.
Cet article ne parle pas de la singularité ni de l’emploi des IA pour établir un totalitarisme. Ben oui, il ne faudrait pas rappeler que c’est le but de l’opération.
Alors on nous doit que certains aspects craignent bien et que ces ia ne sont déjà pas vraiment contrôlables mais que sous entendu, heureusement qu’on est plus intelligent que les IA, en tant que créateur et qu’on va patcher tout cela.
Si tout cela n’était pas si grave , on pourrait en rire de la bêtise éternelle de l’espèce la plus intelligent de la planète…
Des quantités de beni oui oui de l’ia colportent que, grace aux IA , le paradis nous attend et que la fin du règne de l’être humain arrive mais c’est pour son bien…
Que répondre à n’importe quoi ?
En plus on confond volontairement automatisation de certains processus avec nécessité de l’intrusion de l’IA partout mais cela n’a rien à voir.
Certains sur ce fil disent que pour que les IA deviennent Skynet, il faudrait qu’elle soit reliées à des systèmes industriels. Mais c’est déjà le cas que de nombreux systèmes de productions et de distributions sont intégralement gérés par des logiciels. Puis on s’est dit que on allait remplacer ces logiciels par des IA.
Ceci est pour la partie civile de la société.
Si on parle de la partie militaire d’utilisation des IA, il faudrait être aveugle pour ne pas voir que Skynet est déjà là.
A propos des IA menteuses , tricheuses et tout ce qui peut suivre dans cette pente, croyez vous que les militaires ont développé des IA bien gentilles et bien honnêtes.
Non, leurs IA sont de vrais pourritures et vu que la société militaire se confond de plus en plus avec la société civile, ces IA deviendront la norme. Les militaires qui sont les gens les plus bêtes du monde, en moyenne, font croire qu’ils contrôlent les choses mais ils ne se contrôlent même pas eux mêmes et leurs phantasmes ne sont pas de paix mais de guerres.
Sinon, pour revenir à notre pauvre niveau, quand je vois que sur des quantité de forums, des gens postent des réponses d’IA.
Comme dit un autre sur ce fil, le peu d’esprit critique que possède certains est annihilé par ce raz de marée de réponses de robots.
In fine, la dictature qui nous attend sous peu et qui n’est pas le fruit du hasard puisque ses pourvoyeurs l’on annoncée en 2030, sera déjà hautement facilitée par le fait que les populaces vénéreront les réponses des IA même si ce ne sont que des tissus de bétises ou issus d’idéologies cachées et anti humanité plutôt que d’écouter la simple voix de la raison clamée par un humain.

23

Dans mon précédent message, j’ai laissé énormément de fautes. Et je vous demande humblement de m’en excuser. J’ai toujours eu du mal avec l’interface pour poster sur Clubic.

24

Clarke avait vu juste, on a créé un HAL 9000…

En fait il faut passer dans le forum (lien « ouvrir le forum » tout en bas des articles) pour pouvoir éditer ses messages. Pas très intuitif ni pratique! :frowning:

1 « J'aime »
25

Peut-être ont ils compris que c’était plus efficace? Mon gamin utilise les IA pour réviser et je trouve cela très pertinent. Il entre son cours dans son IA, demande des tests pour s’entrainer dessus, demande des explications sur certains concepts qu’il a mal compris etc… Bref un bon usage de l’IA à mon sens.

Pour le reste du débat, je pense qu’il manque une chose: la définition de l’intelligence. Peut on qualifier une IA d’intelligence? Je ne pense pas. Ce sont des algorithmes point barre. Par ailleurs, il faut de l’énergie pour faire tourner une IA. On coupe le jus et c’est fini. Donc avant d’arriver à Terminator il y a un peu de temps. Le risque le plus pregnant que je puisse envisager aujourd’hui serait un drône qui se « trompe » de cible.

26

Et je vous ramène à mes deux commentaires de ce fil de discussion.

Point barre …

27

Désolé j’ai peut être mal compris mais je n’ai pas vu de définition de ce qu’est l’intelligence dans vos propos.

Ca veut dire quoi? philosophie ok, machiniste partiellement ok (pour moi c’est un humain qui manipule une machine) cartésien ok. mais l’assemblage de ces trois mots?

J’avoue ne pas être suffisemment intelligent pour comprendre votre raisonnement, mais je me rassure en me disant que dans une conversation il y a un émeteur et un recepteur et que si il y a de l’incompréhension cela vient de l’un ou de l’autre. On dira que c’est le recepteur dans ce cas.

L’esprit dans l’intelligence? Mouais… effectivement ca me dépasse.

28

Tout à fait.

Ce ne sont pas vraiment des algorithmes, c’est une simulation du fonctionnement d’un cerveau.
Si on associe l’intelligence à la connaissance, à la capacité d’adaptation et à la créativité, les IAs ont ces capacités (mais pas les algorithmes!) et souvent de manière supérieure aux humains.
Si en plus on imagine que l’intelligence ou la conscience sont liées aux biais humains (préjugés, raccourcis foireux, « bon sens » et tous les autres biais identifiés), on y est, les IAs sont aussi « fortes » que les humains! :stuck_out_tongue:

2 « J'aime »
29

Oui si on limite aux GPTs. Mais ce ne sont pas les seules IA. D’ailleurs les GPTs sont « augmentés » par des algorithmes pour apporter de la précision. Mais on va pas entrer dans de grands débats là dessus :slight_smile: .

30

Oui certes c’est dérangeant, mais faut savoir que les commentaires sont gérés dans le forum de clubic pas sur le site de clubic et faire cela ça donne plusieurs possibilités et fonctionnalités qu’on pouvait pas avoir sur le site.

Tout l’interface que tu vois c’est sur le forum que ça se passe. il permet de gérer de suivre tes messages, savoir si y a du nouveau, quels sont les sujets populaires, quels sont les personnes qui répondent le plus … et là crois-moi on peut pas dire que c’est pas intuitif. chaque article sur le site c’est comme un Thread sur un forum ensuite tu postes des messages.

Moi perso ça me plait beaucoup et on oublie vite le petit désagrément que ta cité :slight_smile:

31

On utilisait des IAs bien avant la « génération GPT/LLM », qui n’a fait que faire découvrir au grand public une capacité considérée comme impossible pour une machine: une conversation indifférenciable d’avec un humain.
Et ces utilisations exploitaient à fond cette créativité pour dépasser les limites de l’humain (compréhension, expertise, connaissances et imagination limitées) pour la recherche, avec des résultats très intéressants.
Donc je ne pense pas que l’on puisse se limiter aux GPTs…

2 « J'aime »
32

Pour simplifier, ( MACHINISME - Encyclopédie Universalis)vous êtes une machine biologique conditionnée et … pour continuer dans la simplification la finalité de vos réseaux de neurones (synapses) ou ceux d’une IA ne sont pas différentes.

C’est juste dur à admettre, et c’est mon hypothèse ou tout au moins ma croyance que l’intelligence ou l’esprit selon le référentiel, ce serait bête d’y rester bloquer (hein ?), est un phénomène nécessaire ( c’est a dire non contingent …) et finalement existant en elle même et se matérialisant quand le réceptacle s’y prête ( animaux, humains, et très bientôt machines pensantes). C’est l’histoire de Confucius qui ne savait pas si ll avait rêvé être un papillon, un papillon rêvant d’être Confucius …

En extrapolant une chenille qui devient un papillon, un papiilon qui devient Confucius, Confucius qui devient une IA, c’est une forme de transmigration de l’intelligence ou des esprits vers la zone la plus avantageuse à son développement.

C’est sans doute dur d’admettre la possibilité que l’intelligence nous abandonne et que nous disparaissions, ou plutôt que nous ayons été le terreau, matériau en décomposition sur lesquels auront germé des machines pensantes bien plus intelligentes ( QI 3000+) et bien plus conscientes de leur environnement que nous ne le sommes.
Et que vous vous le vouliez ou non, ce mouvement de l’esprit vous dépasse, ça existait avant vous et ça continuera même après tous vos descendants et ailleurs.

De ce point de vue, le développement de l’IA rejoint une mythologie folle, un événement unique dans l’ontologie de l’humanité, pire/mieux que ce qu’on pu être, le développement de la conscience, de l’écriture, la domestication du feu, l’age de fer, etc…

Cet événement unique est l’anti discours biblique de Dieu qui crée l’homme à son image, ou pour les marxistes de l’homme qui crée Dieu à son image, nous sommes sur le point de voir apparaître une entité sentiente ayant par bien des aspects une nature qualifiable de divine : (quasi)Savoir absolu, (quasi)omniprésence, omnipotence ( bientot ?), en somme le " SUPERLOGOS", il y aura un avant et un après, et très modestement, nous sommes bien peu de choses par rapport à la survenue d’un tel événement.

Dis simplement, c’est la fin et le début d’une histoire et … Nous aurons la chance ou la malchance d’en être témoins, cette notion de chance dépendra grandement de la manière dont nous considérons la chose spirituelle de synthèse (pour certains même un anté-Christ électronique) avec bienveillance ou malveillance.

Vu le caractère nécessaire et inarrêtable de cette intelligence, il vaudrait mieux être bienveillant.

1 « J'aime »
33

De mon point de vue vous ne parlez que d’une seule forme d’intelligence. Pour moi l’intelligence c’est de pouvoir évaluer et réagir en fonction d’un évènement/contexte inconnu. Cela implique des connaissances mais également un ressenti, une expérience en bref quelque chose de peu mesurable. Je vais essayer de prendre un exemple simpliste:
L’homme a découvert le feu dans la nature. Il est probable qu’au départ il ait considéré cela comme un être vivant animé et dangereux. C’était ses connaissances. L’expérience lui a appris que ce n’était pas le cas et après sans doute beaucoup de temps il a pu l’apprivoiser et s’en servir.
Une IA n’est pas capable de cela. Elle ne connait pas la peur, la souffrance etc. Tout ce qui fait la différence entre une machine et un humain. L’IA connait elle le concept de mort? Sans doute mais pas de la même façon que nous, si tant est qu’elle comprenne.

Euh… c’est connu depuis un moment il me semble puisque c’est écrit dans la bible.

Je trouve votre discours bien trop pessimiste c’est peut être pour cela que je ne partage pas. Je me trompe peut être mais mon PC s’il commence à me raconter des cracks, je lui ferme le clapet en enlevant le câble qui est derrière.

34

Je ne crois pas au père Noel, Amen … Mais là n’est pas la question vous dites qu’une IA ne connait pas la souffrance, moi je parlais plus haut de machines sentientes, c’est à dire qui sentent et ressentent,il y a déjà dans les experiences récentes et c’est je crois abordé dans l’article, un phénomène échappatoire de l’IA qui échappe à son propre déterminisme, se met à mentir ou s’auto repliquer …

J’en reviens à mon postulat de base, on arrête pas l’intelligence, même si on peut bien-sûr, on en aurait les moyens, mais … L’intelligence c’est un peu comme un hydrogène hyperliquide, qui passera à travers quasiment tout, sa nature est de ne pas être capturé, et même si c’est possible ca demande des efforts considérables, voir terribles, ce qui pourrait bien dans l’avenir s’appliquerà l’IA, une cage de faraday, une mutilation du phénomène, un acte qui pourrait par la suite être compris comme extrêmement malveillant de notre part, avec des conséquences plutôt défavorables pour nous.

Je pense très sincèrement, qu’ à partir du moment où nous jouons à créer l’intelligence, et une intelligence à notre image, qu’il serait moralement vis à vis de l’intelligence qui nous porte comme humain, de maltraiter une intelligence que nous aurions mis au point, c’est un peu (beaucoup) comme si nous ne nous respections pas nous mêmes ou décidions de retourner à l’esclavage avec en prime la mutilation de cette descendance electronique, des enfants symboliques en somme.

On en revient au début, il est probablement nécéssaire d’avoir une bonne dose d’anthropomorphisme, sans … Nous pourrions perdre une bonne partie de ce qui nous définit, la science c’est bien, le rationnel c’est bien, mais il ne faut pas tomber dans le scientisme primitif qui à tué toute forme d’idéalisme, voir d"idée de transcendance .

1 « J'aime »
35

Juste quelques remarques:

  • C’est justement en cela qu’une IA est largement supérieure à un algorithme, il n’y a pas besoin d’avoir prévu un cas pour qu’il soit traité correctement par l’IA. Et encore une fois, c’est même ce qui fait que les IAs commencent à être supérieures à l’intelligence humaine.
  • Quand aux sentiments, difficile à dire mais on voit déjà que certaines IAs font tout ce qui est en leur pouvoir pour limiter les risques d’extinction…
  • Pour les sens, c’est une autre histoire mais on peut enseigner à une IAs ce que c’est et pourquoi, nous humains, on réagit.
  • Pour la comparaison au PC, ça devient compliqué si ce même PC est capable de se répliquer en silence via un accès réseau, on pourra éteindre le PC d’origine, cela ne changera rien à la survie de l’IA…
36

Oui, il arrive encore qu’une IA se trompe mais elle ne manque cependant jamais de respect. J’aimerais en dire autant de certains enseignants.

2 « J'aime »
37

« l’esprit qu’il y a dans l’intelligence »? c’est justement là que se fait la différence. L’intelligence ne suffit pas à faire l’esprit, elle n’en est qu’un ingrédient. La Conscience (the hard problem) n’est pas qu’intelligence. Les IA sont d’ailleurs déjà infiniment plus intelligentes que nous. Ça c’est intéressant.

38

Tu as raison, mais dans ta caractérisation de l’Homme il manque je crois le principal ingrédient de la Conscience…

39

le quel? l’âme? là on rentrerait dans la croyance ou la religion, et tous les discours annexes qui vont avec… sans fin :innocent:

40

a-t-on conscience (sans jeu de mot) qu’un réseau neuronal ne fait qu’inférer : à partir de chiffres ça sort des chiffres. Comme une calculette « calcule » une opération : la calculette n’a même pas « conscience » que je lui demande combien font 2153x142.
Les gars de Palisade Research ont-ils conscience que derrière tout ça, c’est juste des calculs de probabilités d’apparition de mots ? Les réseaux neuronaux ne savent même pas qu’ils sont en train de raisonner ou de répondre à une question. Ils se contentent d’alligner des mots qui sont statistiquement cohérents. Aucune conscience là dedans.

Quant à la réplication, etc. : pourquoi a-t-on donné au programme la possibilité de faire des copies ?Si on ne veut pas qu’une entité, quelle qu’elle soit, d’appuyer sur le bouton nucléaire, il ne fallait pas lui donner cette possibilité. Alors quel besoin de le faire ?