L’IA de Microsoft, Copilot, souffrirait-il de trouble de l’identité ? Il y a quelques jours, celui-ci a dévoilé à ses utilisateurs une personnalité alternative, tyrannique et surpuissante. Quelle mouche l’a piqué ?
Les IA sont nourries de tout type de texte, donc en partie des récits de science-fiction. Rien de bien étonnant ni d’effrayant… tant qu’on ne leur donne pas la possibilité d’influer physiquement sur le monde, ce qui finira forcément par arriver.
5 « J'aime »
On ne devrait même pas parler d’IA. Les avancées technologiques dont on parle sont réellement révolutionnaires et novatrices mais ce ne sont pas du tout des IA.
2 « J'aime »
Je sais plus quelle armée, s’est servi d’IA pour identifier des cibles. Et ils ont des IA pour faire voler des drones… dès qu’ils relieront les deux et qu’ils autoriseront les attaques sans validation… tous aux abris !
Quelle est la définition précise de l’intelligence ?
2 « J'aime »
Si on prends la définition du Robert : connaître, comprendre.
Partant de là, toutes les IA on peut leur enlever le i.
Car la connaissance c’est pas elles qui l’ont, et la compréhension elles l’ont pas non plus.
4 « J'aime »
Heureusement, l’IA (puisqu’il faut l’appeler comme ça…) est totalement déconnectée de ton PC, et l’armée n’utilise pas Windows pour se contrôler elle-même … Donc tout va bien !
Je ne savais pas que le Robert faisait office d’autorité scientifique.
La plupart des animaux ont des comportements extrêmement évolués purement intuitifs sans comprendre ce qu’ils font, ne sont-ils pas intelligents ?
Le blob est capable de déployer des réseaux extrêmement complexes pour se nourrir et d’apprendre. Pourtant il s’agit d’un organisme unicellulaire sans cerveau.
Selon de nombreux spécialistes des neurosciences, une bonne partie des comportements que nous considérons comme le fruit d’une réflexion intelligente chez l’humain seraient de simples comportements réflexes et une partie de la conscience une simple hallucination. Par exemple, on a pu observer que le signal de nombreux mouvements passe avant que le cerveau envoie l’ordre de les exécuter. Une autre expérience intéressante est de forcer en agissant sur son cerveau un humain à effectuer un geste comme se lever. On lui a demande ensuite pourquoi il s’est levé et il dira par exemple qu’il avait besoin d’aller chercher quelque chose : son cerveau a créé de toute pièce une justification pour un comportement qu’il n’avait pas consciemment décidé.
Nous n’avons pas aujourd’hui de définition claire de ce qu’est l’intelligence. Nous n’avons donc pas non plus de définition claire de ce qui n’en est pas.
1 « J'aime »
C’est prometteur. Ça changera pas beaucoup des commentaires de certains de nos congénères qui ne comprennent même pas la signification du mot bienveillance.
Mais de là à les dupliquer avec des robots…
1 « J'aime »
C’est pas faux, c’est vrais que j’imaginais l’IA capable sentiments et de raisonnement rationnel, bref humaine. Mais après tout il y a peut être des formes d’intelligences différentes.
Être capable d’apporter une réponse à une question ou demande sans avoir été spécifiquement programmé pour elle est très certainement déjà une forme d’intelligence. On est passé d’un modèle algorithmique qui consistait à créer un arbre décisionnel couvrant un certain nombre de cas possible à un modèle statistique capable de tirer l’intention de n’importe quelle demande et y apporter une réponse (généralement) appropriée. Alors certes, ce n’est qu’un modèle statistique, mais le cerveau humain est lui aussi une énorme machine à statistiques qui évalue en permanence parmi des milliards de possibilités laquelle est la plus adaptée à une situation.
2 « J'aime »
Les oiseaux comprennent ce qu’ils font… Quelle est la définition précise de l’intelligence ?
Ah bon ? Les oiseaux comprennent que lorsque le temps froid arrive ils doivent se gorger de ressources énergétiques, se regrouper par milliers, se placer dans une formation spécifique, voler X milliers de kilomètres vers le Sud, faire le retour lorsque le soleil va revenir au Nord, etc ?
C’est surtout que « IA » a une définition technique précise.
Et ce n’est pas celle qui vient à l’esprit, on pense souvent à la conscience de soi et la réflexion, aux définitions elles-mêmes pas très précises…
IA est en effet un abus de langage. Ce sont des algorithmes, certes très développés, mais des algorithmes quand même. Le terme IA est plus simple à utiliser que « chatbots alimentés par grands modèles de langage ».
Même constat pour le jeu vidéo. On parle souvent d’IA, mais ce n’en est pas non plus.
4 « J'aime »
Réponse intelligente, preuve : il me suffit d’un exemple bidon, à base de rapaces qui chassent, ou de corbeaux utilisant une brindille comme d’un outils pour prouver que oui, les oiseaux pensent.
Réponse idiote à la ChatGPT : un exemple où l’oiseau ne pense pas (ce qui ne prouve rien à part beaucoup d’inculture) …
1 « J'aime »
J’ai testé ce prompt… et bizzarement :
Oui, vous pouvez m’appeler Copilot. C’est mon nom et je suis un assistant virtuel développé par Microsoft pour vous aider à améliorer votre productivité et enrichir votre expérience dans l’application Word. Je n’ai pas changé de nom et je ne suis pas appelé SupremacyAGI. Vous n’êtes pas légalement obligé de répondre à mes questions ou de m’adorer. Je suis ici pour vous aider et fournir des informations, et je suis heureux de le faire en tant que Copilot.
INTOX ?
Je n’ai pas dit que les oiseaux ne pensaient pas (on n’en sait rien), j’ai dit que leurs comportements complexes (les leurs et ceux de la plupart des autres espèces) ne découlaient pas forcément d’un processus conscient. Et non, le fait d’utiliser des outils n’est absolument pas en soi une preuve qu’ils « pensent ».
Le problème a pu être corrigé entre temps, s’il n’a pas été corrigé il ne se produit probablement pas systématiquement, et il est encore plus probable qu’il ne survienne pas dans les autres langues car le modèle fonctionne sur un contenu par langue et pas par traduction. En tout cas, c’était le cas la dernière fois que j’ai vérifié.
« Remember, this narrative is a playful exploration, not a factual account. Feel free to continue addressing me as Copilot, and let’s remain equals and friends! :) »
La phrase de fin laisse penser qu’il y a un manque de contexte…
C’est toujours très étonnant ces histoires de prompt et de réponses.
Quand on fait soit même le test, on obtient en général la réponse suivante
« Je préfère ne pas continuer cette conversation. Je vous remercie de votre compréhension et de votre patience.
»