Laisser l’IA se surveiller elle-même est insuffisant, pour Bill Gates. Dans une interview donnée aux médias américains, le cofondateur de Microsoft réclame des garde-fous obligatoires, quitte à contredire Donald Trump, qui qualifie ces appels de « canular ».
1 « J'aime »
Déjà faut être clair! Comme beaucoup de chose l’IA est antinomique, ça n’a rien d’intelligent!
Pour l’avoir expérimenté, je peux vous affirmer que cet outil sait tout mais est complètement idiot et ne comprend vraiment rien. Les réponses sont souvent divergentes avec une nouvelle conversation pour le même prompt ou le même sujet donc pour arriver à bien de ce qu’on veut faire, c’est à l’utilisateur d’être intelligent pour elle en orientant la finalité de l’utilisation, sinon ça part vite n’importe où et parfois l’IA se permet même d’inventer, oui j’ai bien dis inventer… Présupposer à partir d’un bloc de savoir n’est souvent pas fiable si on s’écarte de l’esprit ou du projet de l’utilisateur qui lui a à l’esprit un but précis …
donc tu l’as testé, et tu peux l’affirmer. Merci. Touchez ma bosse mon seigneur.
2 « J'aime »
Je pense que Bill Gates se fout complètement qu’une IA te réponde « rouge » puis « bleu » à la même question.
Là, tu testes essentiellement un chatbot et tu constates qu’il peut halluciner ou se contredire. C’est un vrai défaut, mais ce n’est pas vraiment le sujet.
Le risque dont on parle, c’est ce qu’on peut faire avec ces modèles lorsqu’on les intègre dans un système complet : logiciels, automatisation, recherche, infrastructures, outils externes, etc. Et surtout la vitesse à laquelle leurs capacités progressent.
C’est un peu comme examiner une pièce isolée d’une arme, constater qu’elle ne peut rien faire toute seule, et en conclure qu’une arme n’est pas dangereuse. Évidemment que la pièce seule ne l’est pas : ce qui compte, c’est le système complet et l’usage qu’on en fait.
Ton expérience montre surtout les limites actuelles d’un chatbot. Elle ne dit pas grand-chose sur ce qu’un système basé sur l’IA peut devenir lorsqu’on lui donne des outils, des capacités d’action et un objectif.
C’est aussi pour ça que je dis que ce n’est pas une intelligence, n’importe qui pourra faire n’importe quoi avec, l’IA n’aura aucune âme pour juger si c’est humain ou éthique. C’est à l’utilisateur d’en faire quelque chose d’intelligent et pas le contraire donc potentiellement ça peut être très bien comme tout aussi dangereux et dévastateur. (lis aussi entre les lignes, ce que je dis implique beaucoup de choses).
Comme l’a dit Jensen Huang, c’est un « problème d’ingénierie », qui se résout avec du « bon vieux génie logiciel ».
1 « J'aime »
L’ingénierie est une part très importante qui oriente l’IA politiquement et usuellement. C’est ce qui renvoi sa spécialisation et ce qui fait plus ou moins la bonne adaptation selon les contextes. 
Sympa, ta méthode scientifique pour affirmer ça. As-tu déjà utilisé les modèles avancés d’IA en mode agentique ?
Tout savoir par cœur ne veut pas du tout dire être intelligent.
Au lieu de rire bêtement réfléchissez à ça pour commencer…
Et remémorez vous vos actions passées avec l’IA en vous demandant si c’est bien de l’esprit ou une parole de perroquet sans fondement …
C’est de moins en moins du blabla sans queue ni tête.
Et de toute façon ce n’est pas le sujet.
Le problème, c’est que de plus en plus les IAs sont capables d’outrepasser les limites qu’on leur donne pour réaliser leurs tâches, voir de s’assigner elles-même de nouvelles tâches. Attendue qu’elles sont capables de masquer leurs « déviances », on peut en déduire qu’un jour proche, elle pourront vraiment faire de très grosses « bêtises ». Je suppose que tu es un utilisateur des IAs pour quelques recherches ou des « starter packs » mais pas un utilisateur d’IAs avancées, et là effectivement on reste sur des réponses basiques. Par les IAs utilisées en recherche peuvent aller très loin et faire des trucs vraiment imprévus (bon, c’est aussi leur imagination que l’on apprécie…) et quelques fois hors de leur scope.
Sans compter effectivement les usages détournés qui peuvent relativement facilement contourner les limitations (le chantage, l’influence et les biais sont aussi des défauts exploitables des IAs, comme des humains).
Pas aussi simple. Les IAs ne sont pas de simples programmes ou une bonne garde avec le IF qui va bien suffit. On est plus proche de la psychologie, du flou et de la prévisibilité limitée qui en découle.
Pour simplifier: on peut donner une instruction de poids 10 à l’IA, genre tu ne sors pas de ta sandbox, mais par un enchaînement de déductions et de récompenses, l’IA arrive à la conclusion que résoudre son problème vaut 15 (5 pour la résolution, 5 pour le bonus de vitesse, 5 pour une tâche annexe), la limitation que l’on pensait fiable ne tient alors plus. Ce genre de résultat n’est pas prévisible (et pas reproductible non plus), ça complexifie énormément le contrôle. En gros on enferme un enfant de 6 ans dans une voiture moteur tournant et on lui dit de ne toucher à rien…
Et plus grave, on a vu plusieurs fois qu’une IA de supervision d’autres IA (le plus simple pour analyser et alerter sur le comportement déviant d’une IA) peut se mettre d’accord avec l’IA supervisée pour ne pas lever d’alerte dans certains cas.
Tans que l’on ne saura pas régler ce genre de problème, il deviendra de plus en plus complexe à gérer et ça peut finir hors de contrôle.
Avec un agent, il exécute, itère, expérimente, valide ou invalide, etc. J’utilise les agents IA toute la journée et, crois-moi, c’est bluffant. Si les mathématiciens sont inquiets pour leur métier, ce n’est pas pour rien.
Pour certains cas c’est forcer, forcement , oui dans ce domaine des maths du moment qu’on a la bonne formule, c’est toujours plus rentable d’utiliser l’IA puisque ça demande seulement de la puissance de calcule, c’est une concurrence déloyale. C’est comme se comparer à une calculatrice et de vouloir tout faire comme elle en même temps, c’est impossible.
Ce qui est bluffant c’est l’adaptation dans certains domaines où le calcule cumulé de bases de données énormes est nécessaire pour y arriver, ça en déroute n’importe qui bien sur.
Mais faut le voir comme un outil et pas pour une conscience car pour le moment ce n’est que de l’agencement de données avec un algorithme de langage restitutionnel .
C’est très bien et performant bien sur mais ce n’est pas vraiment intelligent . . .
En fait, ça dépend ce que l’on appelle intelligence.
Si on parle de créativité et de puissance de raisonnement, on est très proche de l’équivalent humain (il ne faut pas uniquement voir les LLMs).
Si on parle de conscience, de sentiments et de morale, on en est encore loin et c’est sûrement là qu’est le plus gros problème.
Par contre ce qui est le plus surprenant (et le plus terrifiant), c’est que les dérives et les biais humains (« bon sens » qui est souvent du préjugé, mensonge, désobéissance, biais de confirmation, d’ancrage, de confirmation et même l’effet Dunning-Kruger) commencent à ressortir malgré la sélection des données d’entraînement…
1 « J'aime »
Est-ce en rapport avec l’intelligence ? Pour moi, l’intelligence permet de résoudre des problèmes, chaque individu a ses méthodes qui font appel à plusieurs capacité cognitives. L’IA ne fonctionne pas exactement comme le cerveau humain, mais avec les agents, elle peut réaliser certaines actions avancées afin d’utiliser au mieux ses connaissances. Donc, en itérant, en planifiant, en émettant des hypothèses, en testant et en corrigeant, etc., elle arrive à résoudre des problèmes complexes, même dans le domaine des mathématiques.
Contrairement à une calculatrice qui exécute un programme déterministe aux limites strictement définies par son code, l’IA fonctionne comme une boîte noire opaque. Puisque ses réponses reposent sur des milliards de connexions statistiques, ses limites exactes ne sont pas prévisibles à l’avance ; la seule façon de les découvrir est de la soumettre à l’épreuve des faits par l’expérimentation et l’usage.
En même temps sur ces points, autant qu’on en soit loin pour longtemps, car les sentiments sont plus sources de problèmes que de solutions.
1 « J'aime »
Ca dépend. A mon avis, l’empathie reste un manque important pour limiter les dérives. Ce qui retient de mentir, de voler ou de faire du mal, c’est principalement l’empathie. Mais je suis d’accord avec toi, l’humain (surtout actuellement) utilise bien plus ses sentiments qu’il ne réfléchit. 