L’IA de Microsoft, Copilot, souffrirait-il de trouble de l’identité ? Il y a quelques jours, celui-ci a dévoilé à ses utilisateurs une personnalité alternative, tyrannique et surpuissante. Quelle mouche l’a piqué ?
On ne devrait même pas parler d’IA. Les avancées technologiques dont on parle sont réellement révolutionnaires et novatrices mais ce ne sont pas du tout des IA.
1 « J'aime »
Je sais plus quelle armée, s’est servi d’IA pour identifier des cibles. Et ils ont des IA pour faire voler des drones… dès qu’ils relieront les deux et qu’ils autoriseront les attaques sans validation… tous aux abris !
Si on prends la définition du Robert : connaître, comprendre.
Partant de là, toutes les IA on peut leur enlever le i.
Car la connaissance c’est pas elles qui l’ont, et la compréhension elles l’ont pas non plus.
4 « J'aime »
Heureusement, l’IA (puisqu’il faut l’appeler comme ça…) est totalement déconnectée de ton PC, et l’armée n’utilise pas Windows pour se contrôler elle-même … Donc tout va bien !
C’est pas faux, c’est vrais que j’imaginais l’IA capable sentiments et de raisonnement rationnel, bref humaine. Mais après tout il y a peut être des formes d’intelligences différentes.
Les oiseaux comprennent ce qu’ils font… Quelle est la définition précise de l’intelligence ?
C’est surtout que « IA » a une définition technique précise.
Et ce n’est pas celle qui vient à l’esprit, on pense souvent à la conscience de soi et la réflexion, aux définitions elles-mêmes pas très précises…
IA est en effet un abus de langage. Ce sont des algorithmes, certes très développés, mais des algorithmes quand même. Le terme IA est plus simple à utiliser que « chatbots alimentés par grands modèles de langage ».
Même constat pour le jeu vidéo. On parle souvent d’IA, mais ce n’en est pas non plus.
4 « J'aime »
Réponse intelligente, preuve : il me suffit d’un exemple bidon, à base de rapaces qui chassent, ou de corbeaux utilisant une brindille comme d’un outils pour prouver que oui, les oiseaux pensent.
Réponse idiote à la ChatGPT : un exemple où l’oiseau ne pense pas (ce qui ne prouve rien à part beaucoup d’inculture) …
1 « J'aime »
J’ai testé ce prompt… et bizzarement :
Oui, vous pouvez m’appeler Copilot. C’est mon nom et je suis un assistant virtuel développé par Microsoft pour vous aider à améliorer votre productivité et enrichir votre expérience dans l’application Word. Je n’ai pas changé de nom et je ne suis pas appelé SupremacyAGI. Vous n’êtes pas légalement obligé de répondre à mes questions ou de m’adorer. Je suis ici pour vous aider et fournir des informations, et je suis heureux de le faire en tant que Copilot.
INTOX ?
« Remember, this narrative is a playful exploration, not a factual account. Feel free to continue addressing me as Copilot, and let’s remain equals and friends! :) »
La phrase de fin laisse penser qu’il y a un manque de contexte…
C’est toujours très étonnant ces histoires de prompt et de réponses.
Quand on fait soit même le test, on obtient en général la réponse suivante
« Je préfère ne pas continuer cette conversation. Je vous remercie de votre compréhension et de votre patience.
»
Ce qui n’empêche pas de continuer à chercher.
Alors je ne doute pas que certains humains ne sont pas plus avancé qu’un blob, mais si tu vas par là alors « l’intelligence » est un concept qui n’existe pas.
Si on suit ton raisonnement jusqu’au bout, tout n’est qu’une résultante de cause et effet.
Bref quelqu’un au dessus a demandé la définition d’intelligence, bah tu prends ton dictionnaire et tu regarde la définition.
Après, si tu veux partir dans débats scientifico-philosophique alors là oui. C’est bien plus complexe et compliqué, et surtout tout dépend de ce qu’on considère nous mêmes comme relèvant de l’intelligence.
Les scientifiques ont beau pondre des dizaines d’études sur le sujet cela reste une interprétation de leur part.
Personnellement, je considère une entité intelligente lorsqu’elle est capable de se poser une question (ou faire preuve de curiosité si on prend le concept à la racine) sans ordre extérieur.
1 « J'aime »
Mais il n’y aura jamais de consensus sur ce point. Et je suis désolé mais les scientifiques ne font pas autorité non plus, tant que les hypothèses ne sont pas validées (à minima) par des expériences reproductibles.
Et comme la majeure partie des hypothèses se bases sur tes interprétations… on est pas prêt d’avoir une réponse fiable.
Et dans tous les cas, on est toujours pas avancé sur le problème de « base ». Avant même de pouvoir définir si telle ou telle entité est intelligente, il faut commencer par définir « intelligent ». Et les scientifiques ne sont déjà pas d’accord entre eux.
Ça ne change rien au fait que les « IA » actuelle n’ont rien d’intelligent, et ce peu importe ce qu’on met derrière ce mot.
Ce sont des programmes certes très efficaces dans leur domaine, mais tout ce qu’ils font c’est calculer des probabilités et mettre en forme ces résultats. Les algorithmes qui les font marcher ont beau être des chef d’œuvre de programmation, dans le fond cela ne reste que de bêtes calculettes. Tu mets une formule en entrée > et tu obtiens un résultat. Point, ça s’arrête là.
Et surtout incapable d’avoir une activité autonome. C’est même donc inférieur à un blob.
1 « J'aime »
Donc pour toi les IA actuelle sont intelligentes ?
Alors dans ce cas je suis au regret de t’annoncer que tu n’es pas un être intelligent. Et moi non plus d’ailleurs.
1 « J'aime »
Un simulacre d’intelligence, est ce de l’intelligence ?
Tiens donc, comment pourrais-tu admettre que les autres animaux sont intelligents, sachant que tu ne sais pas quels critères il faudrait pour définir cela ?
1 « J'aime »
Je vais te dire ce que je pense, qui n’a rien de scientifique, absolument rien, tu es donc en droit d’ignorer totalement ce qui suit.
(Petit aparté, les humains détestent que leurs alter ego disent ce qu’ils pensent car la plupart trouve cela vexant, irrespectueux et tout un tas de choses. Moi je m’en fiche je dis quand même ce que je pense quitte à me prendre des baffes, ou être qualifié d’arriéré, d’ignorant et d’autre non d’oiseau).
Je pense que la totalité des êtres vivants possédant un cerveau ou un ersatz de cerveau, sont intelligents. Pour la simple et bonne raison qu’ils ont, au minimum, le contrôle sur leurs actions.
Il y a des tas d’être vivant, comme de simple cellules, comme les blob, les méduses et tant d’autres. Qui n’ont aucune forme de contrôle, comme tu l’as dit, ce n’est que réflexe car ils ont été codé (par l’adn) de cette manière là.
Ils ont parfois des comportements qui nous étonnes, que l’on pourrait assimiler à de l’intelligence et pourtant non. Ils n’ont pas décidé de ce comportement là. Ce n’est que le hasard de conditions particulières qui ont conduit à ce comportement.
C’est exactement la même chose pour les IA actuelle. Qui ont juste été codé pour réagir d’une certaine manière. Les comportements étranges, imprévus, impressionnants ne sont que le résultat d’une programmation perfectible qui dans certaines conditions donnent des résultats inattendus. Mais l’IA n’a pas choisi de sortir ce résultat intentionnellement, contrairement à ce que peut faire des tas d’etres vivants.
Bien tu as mon avis sur cette question là. J’irai pas plus loin dans le débat.
Quand une IA sera capable de me demander quelque chose sans que je l’eusse sollicité, et qu’elle ira transmettre l’information que je lui aurais donné à quelqu’un d’autre qui ne l’aurait pas sollicité non plus, alors là je pourrais qualifier cette IA d’intelligente.
1 « J'aime »