Ils raisonnent plus vite que nous, corrigent leurs erreurs sans aide, manipulent les subtilités du langage avec une aisance déconcertante. Pourtant, même ceux qui les ont créés reconnaissent ne pas comprendre entièrement comment ces modèles parviennent à être si performants.
Cette « Chose » dont on cherche à percer le mystère, les rouages de l’intelligence, ce sont les fonctions exécutives à mon sens. En neuropsychologie, les fonctions exécutives permettent la planification des actions et du raisonnement, c’est le contraire d’une activité réflexe. Planifier, c’est décomposer le but en sous-buts afin de parvenir au résultat escompté dans une tâche considérée en évitant les erreurs et les jugements parasites. Ces fonctions sont le maillon nécessaire qui lie nos fonctions cérébrales faisant intervenir, la perception, l’attention, la mémoire, le langage et la motricité en faisant un tout de toutes nos facultés qui ne sont pas indépendantes même si elles peuvent être corrélées à l’activité de certaines zones cérébrales spécifiques dans une tâche ou dans une toute autre.
Et cela nous prend du temps, si bien que nous pensons plus vite que nous n’arrivons à exécuter puisque la motricité verbale ou gestuelle est plus en décalage. L’IA ne connait pas ces limites. Et enfin, le processus de récupération de l’information après lésion ou pendant une incapacité ponctuelle peut faire intervenir aussi d’autres zones du cerveau nous permettant de créer des astuces palliatives pour parvenir au résultat. 
2 « J'aime »
C’est étonnant à quel point l’humain peut se montrer paradoxal.
On créé des usines, dont le but est de baisser le coup de production, et pourtant on fait en sorte de marger le plus possible, alors que le but premier est d’avoir le prix le plus bas.
Le but premier de l’IA est de mimer ou reproduire l’intelligence, et certains s’étonnent que les gardes fous soient surmontés, à ce titre il faudrait donc l’appeler bêtise artificielle …
C’est tout à fait normal que les limites soient dépassées, c’est justement ça l’intelligence.
2 « J'aime »
Ton commentaire pose des questions intéressantes, mais j’ai du mal à en suivre la logique.
Tu dis que les usines sont faites pour baisser les coûts mais qu’on cherche ensuite à marger « le plus possible », ce qui serait paradoxal. En réalité, ce n’est pas incohérent : baisser les coûts permet soit de vendre moins cher, soit de dégager plus de marge. Il n’y a pas d’opposition systématique entre prix bas et profit élevé.
Ensuite, tu compares ça à l’IA en disant que dépasser les limites serait une preuve d’intelligence. Mais l’article ne parle pas de transgression de règles ni de garde-fous. Il explique qu’on ne comprend pas comment les modèles produisent des résultats efficaces — ce n’est pas qu’ils vont « trop loin », c’est qu’on ne sait pas pourquoi ils réussissent. Ce n’est donc pas une question de bêtise ou d’intelligence, mais d’opacité du raisonnement.
Peux-tu préciser ta pensée?
1 « J'aime »
J’aime les causes principielles, fondamentalement et par principe une usine est créée pour abaisser les couts au minimum, vouloir gagner de l’argent est donc paradoxal, je fais avec et c’est pour le principe, si tu ne comprends pas ce n’est pas très grave.
Et pour l’itelligence, c’est bien l’intelligence en tant que principe, vouloir rendre l’intelligence bête, la brider, c’est une fois de plus paradoxal…
Pourquoi limiter l’intelligence alors que l’on recherche l’intelligence, et si cela échappe à ces chercheurs, c’est peut-être justement qu’ils ne peuvent pas appréhender le principe de l’intelligence, ou tout au moins ont du mal à accepter que les méandres d’une intelligence puissent leur échapper.
Pour moi rien d’anormal, le principe de l’intelligence, appelons le esprit est de se libérer, y compris des règles et des contrôles, c’est quasi vivant ou dialectique, si c’est figé c’est métaphysique et dans l’idée de copier le parfait, n’aurait aucun intérêt à changer, donc serait, passe moi le terme, très idiot.
En fait cela illustre ma position philosophique idéaliste, plutôt que de dire à la maniere d’un Marx que c’est le rapport à la réalité, ici d’électrons et de science qui crée de intelligence ( artificielle ?), l’intelligence serait un principe immanent qui s’incarne dans une forme quand celle ci est créée à son image, un peu comme si une puce ,un programme inerte, recevait la vie.
Attention c’est mon avis en tant qu’idéaliste des principes, je conçois parfaitement une réponse pragmatique et peut très bien m’en accommoder, mais j’aime à penser que certaines choses nous dépassent, comme le beau, le juste, l’immanent, le transcendant, le nécessaire, le contigent.
2 « J'aime »
Personnellement, par expérience au début, puis de temps en temps parceque pourquoi pas, j’ai eu des « discussions » diverses et variées (souvent sur les sciences, parfois sur la géopolitique, et d’autres.
Et ben les quelques echanges que j’ai eu avec une IA ont été 10x plus intelligentes, constructives et intelligibles qu’avec les 30 dernière personnes réelles avec qui j’ai pu entamer des discussion (et non pas du tout parceque l’IA va forcément dans mon sens, j’évite ce type de modèles).
C’est dans ces moments la que l’on se rend compte qu’aujourd’hui, le random, parfois le proche avec qui tu discute est souvent inculte, coincé dans ses certitudes, fait beaucoup de bruit pour rien, et adore parler de choses qu’il ne connait pas. Je ne parle même pas de la nouvelle génération de jeunes adultes ou je me suis rapidement limité à du bonjour /au revoir…
1 « J'aime »
« par principe une usine est créée pour abaisser les couts au minimum »
Mais d’où sortez vous cela ? Si en phase de Covid on crée une usine pour faire des masques, on se moque d’abaisser les coûts au minimum, ce qu’on demande à l’usine c’est de PRODUIRE
Non … Ce qu on demande à une usine c’est d’organiser la production pour que les coûts soient les plus faibles.
Vous pouvez parfaitement produire des masques covid en réquisitionnant des ménagères qui bosseraient dans leur salon de 7 à 8 …
La parallélisation, la standardisation des taches, l’automatisation sont les fonctions ( l’exploitation du prolétaire contre salaire ?) qui réalisent l’abaissement des couts, ces opérations prennent place dans un un lieu : l’USINE
1 « J'aime »
Tu parles de principes, et c’est une position que je respecte. Mais ce que tu appelles principe me semble être une projection idéologique, pas une description rigoureuse de ce dont parle l’article.
D’abord, une usine n’est pas faite « pour baisser les coûts », elle est faite pour produire efficacement. Baisser les coûts est un moyen, pas une finalité absolue. Vouloir ensuite générer du profit n’est donc pas paradoxal, mais parfaitement cohérent avec la logique économique réelle. Ton principe est une abstraction qui ignore le système dans lequel il s’insère.
Ensuite, tu dis que « brider l’intelligence est paradoxal ». Mais l’article ne parle ni de volonté bridée, ni de contrôle moral. Il décrit un système qui n’a ni volonté, ni croyance, ni subjectivité. Ces modèles ne veulent rien, ils calculent. Ils ne transgressent pas des règles, ils produisent des sorties optimisées statistiquement. L’idée d’une intelligence qui cherche à se libérer suppose un esprit ou une agentivité, or l’IA actuelle n’en a pas. Il n’y a donc aucun paradoxe à la rendre plus fiable ou à la contraindre : on ne limite pas une volonté, on règle un outil.
Enfin, ta vision de l’intelligence comme principe immanent qui « s’incarne » relève d’une pensée métaphysique, respectable, mais extérieure au sujet. Rien dans les modèles décrits ne « reçoit la vie ». Ils sont le produit de méthodes d’optimisation, pas l’expression d’une essence qui se manifeste. La recherche en IA, comme les sciences cognitives, définissent l’intelligence par ses fonctions observables, non par une transcendance. Penser que l’incompréhensible est un signe d’esprit, c’est confondre opacité technique avec profondeur ontologique.
Tu dis que certaines choses nous dépassent — peut-être. Mais dans le cas présent, ce qui nous dépasse n’est pas l’intelligence comme mystère : c’est la complexité d’un processus statistique que nous avons nous-mêmes conçu, et que nous avons encore du mal à interpréter. Rien de plus, rien de moins.
2 « J'aime »
Je t’ai dit ce que je pensais dans une philo de type idéaliste, pas materialiste…
Et
j’ajoute que dans un modèle extrêmement ordonné comme le sont les réseaux de neurones, les liens se font par du tracé de graphe soit au plus court soit/et à la meilleur pondération de la valeur, ce qui communément est applé « poids » et donne un sens à la relation des valeurs entre elles, dans une illusion partiellement comprise et troublante de mimetisme de notre propre intelligence, faite à notre image…
De 1, rien ne peut te permettre d’affirmer avec certitude qu’il n’y a pas d’analogie entre ces réseaux de neurone binaires, et tes synapses dans leur concept, leur essence ou même leur finalité.
De 2, ce modèle tres organisé subit par analogie une « entropie », il se désorganise, de telle manière que les chercheurs n’arrivent pas à prédire les résultats de l’élaboration.
Ce chaos apparent, comme incompris est une étape de l’intelligence dans son développement, il sera peut être compris plus tard.
Au fond cette dernière assertion est proche de ta conclusion.
Mais je persiste, les principes sont importants, l’intelligence existe en dehors de nous et ailleurs, elle est comme un oeuf qui éclot lorsque l’environnement s’y prête, son apparition (rare?) est nécessaire même avec des conditions contingentes;
Le matérialisme a tué beaucoup la poésie de l’esprit sans forcement apporter grand chose de plus qu’une forme de libération parfois décevante/hypocrite et surtout une idéologie du scientisme froide et brutale.
Je choisis volontairement cette voie car je sais qu’elle sera débattue, mais ne te fais pas d’illusion, ce sont bien les 2 faces d"une même pièces ayant chacune sa phénomenologie.
Je suis une pièce, tu es une pièce, tout existe ici et maintenant et tout existe en tant qu’idée sous le concept.
Pour qu’un geek un peu informaticien puisse comprendre une analogie de l’informatique des bases de données me vient, le modèle logique et le modele physique des base de données.
Ou encore le plan sur papier, qui lui même est l’idée dans le cerveau qui deviendra une maison bien réelle.
Ou encore l’idée que ce fait une conscience d’un bol, un objet qui existe nécessairement ailleurs dans la galaxie car sa forme et son utilité sont nécessaires et apparaîtront, existe en lui même comme concept, en dedans et en dehors de la conscience.
Donc non seulement nous sommes des pièces, mais nous sommes des bols, tu te rends compte ? C’est incroyable 
2 « J'aime »
« Nous »? Français, c’est cela ? Et qui nous ?
La génération X qui réfléchissait, cherchait, faisait chauffer ses neurones , utilisait un stylo, pensait des heures en bibliothèque, échangeait, comparait ses résultats avec d’autres être humains, synthétisait, rédigeait et assimilait ainsi du vocabulaire, développait une culture générale …ou la génération Z ?
Le distinguo devrait être fait
1 « J'aime »
« Ils raisonnent plus vite que nous »
Heu non, je regrette, ils n’ont pas le moindre raisonnement, pas plus que d’intelligence.
Ce ne sont que des programmes qui génère des probabilités, rien d’autre.
Les modèles de langage sont plus intelligents que nous…
Ah ? Un test tout bête : ouvrir n’importe quel LLM, et… ne rien faire, ne rien taper. Et voir si le LLM génère bien des pensées intelligentes (ou pas) de lui-même.
1 « J'aime »
oui et non, il dort, il attend une entrée de ta part, si tu étais coupé de tout, de ton corps, de tes organes, de ton savoir, de tes fonctions, comme en hibernation tu ne ferais probablement rien et comme c’est difficile à tester, c’est difficile de valider ton test a 100%, c’est une comparaison.
Mais je comprends quand même ce que tu veux dire, ton llm ne t a jamais coupé la parole, pour ça faudrait il encore qu il puisse t entendre en permanence.
Il ne dort pas, il est complètement inactif : aucun calcul n’a lieu dans les couches du réseau de neurone, rien n’est lancé. L’application gérant le LLM ne lui envoie aucune donnée et ne le fait pas fonctionner.
D’ailleurs on peut faire un parallèle avec la « chambre chinoise » : le réseau de neurone du LLM seul ne sert à rien, sans le programme autour le gérant, encodant les entrées et interprétant les sorties.
Alors qu’un humain qui dort continue d’avoir des raisonnements, rêve. Un humain réveillé qui ferme les yeux et n’écoute personne peut continuer bien des raisonnements seul.