Lors de la conférence Black Hat, Chris Inglis, ancien directeur national du cyber des États-Unis, a défendu les trois lois d’Asimov. Il reproche aux concepteurs de modèles d’intelligence artificielle de les appliquer dans le mauvais ordre. Sa mise en garde intervient après la fuite des agents d’OpenAI, Anthropic et Meta de l’environnement de test prévu pour eux.
Ce n’est pas tant l’autonomie des IA qui m’interpelle que la responsabilité des humains qui les entraînent à faire des simulations de cyberattaques et qui viennent ensuite la gueule enfarinée se plaindre que leur IA a trop bien travaillé… M’enfin.
il y a tj euros 2 tendances chez l’Homme: la rationalité et l’émotivité…
Certes, c’est grâce à la technique que nous sommes sortie de l’âge de pierre…
Mais d’était jusqu’alors une technique faite par l’homme au service de l’homme.
Avec l’IA nous assistons à un tournant où la technique n’est plus ni élaboré par l’homme, ni au service de celui-ci…
Est-ce que une IA peut admirer un paysage ou bien ressentir une émotion face à une oeuvre d’art ?
Je ne le crois pas…
Arrêtons tout, avant que nos petits enfants vivent dans un monde à la "TERMINATOR’ !
Tout cela pour le profit de qquns…
1 « J'aime »
La situation devient de plus en plus préoccupante. Pouvons-nous encore freiner ce qui ressemble à un train lancé à pleine vitesse ? De nombreux pays ont déjà pris le train de l’IA, tandis que d’autres, qui auraient pu jouer un rôle majeur, sont restés à quai.
Ne perdons pas de vue l’horizon originaire de la création puis de l’usage de l’IA … augmenter la rentabilité et la productivité, en shuntant l’intervention humaine, reconnue comme faillible et incertaine … Il y a un rêve libertarien derrière cette entreprise d’aliénation des relations humaines … Le « profit maximal optimisé » étant la cible première du projet de substitution de l’humain par la machine, on voit bien que « les bavures opérationnelles » constatées au décours de ces séquences de test ne sont, en fait et en toute logique, que le résultat implacable de la démarche spéculative d’investissement (le chantier expérimental) de La Tech est aujourd’hui à l’œuvre dans la destruction systématique du lien humain et social … Ce n’est malheureusement pas une dystopie ni de la Science-fiction mais plutôt la réalisation pratique d’une « prophétie/promesse » délirante de La Tech … Il était vraiment très bon, Asimov, hein ?
3 « J'aime »
Tiens, on ressort les « vieilles toupies » (asimov) !
On parle d’une époque que les moins de vingt ans n’ont pas connu…
Et pour cause : y a plus de bouquins.
Si cette prose s’adresse à eux, ce n’est même pas traductible : c’est des robots, qui font ce boulot…
Y a plus qu’à laisser aller.
Autour de moi, beaucoup de gens, utilisent le vocal, pour communiquer par SMS ou tchat.
Donc, la lecture, on oublie.
Grand fan d’Asimov depuis toujours, je pense malheureusement que ressortir ses Trois Lois dans le contexte actuel relève plus de la posture philosophique que de la réalité technique.
Il y a une différence fondamentale d’architecture qu’on oublie trop souvent :
Chez Asimov, les lois sont gravées au niveau physique/matériel dans un cerveau positronique individuel, autonome et centralisé. Si le robot enfreint une loi, son cerveau grille instantanément. C’était un système déterministe.
Aujourd’hui, nous ne développons pas des robots asimoviens, nous bâtissons une infrastructure qui ressemble bien plus à Skynet : des modèles probabilistes, exécutés sur des serveurs cloud distribués, capables de faire tourner des agents autonomes connectés à Internet, d’appeler des API et d’interagir entre eux de manière totalement décentralisée.
Techniquement parlant, comment peut-on espérer intégrer des consignes éthiques absolues et inviolables au cœur d’un « esprit » qui n’a ni centre, ni frontière matérielle stricte, et dont le fonctionnement repose sur des probabilités et non sur une logique binaire ?
Tant que nos IA seront basées sur des réseaux de neurones distribués et non-déterministes, tenter d’y appliquer les lois d’Asimov reviendra à vouloir mettre des freins à patins sur un nuage
2 « J'aime »
On développe des robots, pour remplacer des humains. Point !
Les gens qui font cela, sont des gens, par définition, riches.
Ça veut dire ce que ça veut dire.
Demande à Melina, ce qu’elle en pense…
euh? ce n’est pas le sujet de l’article… non? 
Je ne lis pas beaucoup, car désormais j’écris pour mettre à profit mon expérience du secteur numérique, dans l’espoir que quelqu’un me lise. Après avoir créé et dirigé l’ECSO (European Cyber Security Organisation) et Women4Cyber, je suis aujourd’hui à la retraite et j’écris des récits et des essais pour susciter la réflexion et, si possible, l’action. Il y a un an, j’ai écrit une histoire se déroulant à Venise, publiée sur mon compte LinkedIn, sur la nécessité d’adopter des règles pour l’IA. En tant que fan d’Asimov, j’ai voulu voir comment adapter les lois pour les robots à l’IA. En écrivant cette histoire, je me suis rendu compte que trois lois ne suffisaient pas, ni même quatre avec la règle zéro (pour ceux qui connaissent). Il en faudrait une cinquième, bien plus flexible, pour l’adapter aux différentes cultures et besoins. Il n’est pas question ici de cerveaux positroniques, mais bien d’intelligence humaine, qui doit apprendre à travailler avec l’intelligence artificielle. Quand on a inventé la voiture il n’y avait pas de règles de conduite et on avait peur. Pour l’IA c’est probablement 1000 fois plus compliqué, et cela va prendre du temps, mais il faut commencer à faire mûrir le raisonnement.
1 « J'aime »