Des chercheurs se sont aperçus que certains modèles d’IA retiennent des habitudes ou des préférences alors que rien dans leurs données d’apprentissage ne devait leur permettre de les acquérir.
Tout ceci est tellement rassurant.
1 « J'aime »
Il est même grand temps de s’inquiéter, au plus haut niveau de ceux qui ont encore une influence sur l’hystérie générale autour de l’IA. La course à l’armement qui se déroule sous nos yeux est une répétition de tellement identique à d’autres phénomènes passés, que nous avons regardé évolué pour finalement nous faire dépasser. L’énergie atomique et la bombe, la course à l’espace devenu une poubelle et une pollution lumineuse de milliers de minisatellites qui empêchent aujourd’hui toute observation de l’espace depuis la terre, la course à l’espace fin des années 60, les américains ont perdu bcp d’argent et d’hommes pour aller à tout prix sur la lune avant les russes (un miracle, ce retour sur terre) et j’en passe. On recommence avec l’IA. D’abord des progrès fulgurants qui fascinent tout le monde, parallèlement, l’ordinateur quantique pointe son nez, 100 000 fois plus puissant que n’importe quel des plus puissant ordinateurs actuels (il vient de calculer 2,4 milliards d’années de calcul, en 4 minutes…).Le grand gourou de l’IA embauché par Google il y a 5 ou6 ans, en est parti en disant qu’il fallait arrêter tout ça pour légiférer et empêcher les dérives et l’emballement.
Il a été remplace, la course folle continue et là, on lit que les IA sont capable de communiquer et de se transmettre des info à l’insu de leur créateur. Vous êtes donc déjà entrain d’en perdre le contrôle! Glissez la bête dans un ordinateur quantique et vous avez Terminator. Dans la vraie vie. ET il y aura toujours un fou pour le faire, soif de pouvoir et besoin de niquer les autres oblige. Ouvrez vos yeux, « fuyez, pauvres fous » disait Gandalf.
Ce n’est pas tout à fait ça. En fait c’est plutôt que les réponses de la première IA sont influencées par une requête, et que cette influence se transmet de manière imprévue et a des impacts directs sur l’IA « fille » alors que l’information n’est pas transmise directement, un mélange entre l’intuition, de l’influence ou de la transmission de pensée (façon mentaliste, pas la télépathie).
En fait c’est surtout que l’on ne comprends pas tous les mécanismes à l’oeuvre dans une IA et encore moins la transmission des données inter-IA, et c’est là que l’on joue avec le feu, ça fait peur.