Décidément, la menace de l’intelligence artificielle (IA) semble de plus en plus se matérialiser. Anthropic vient de révéler avoir bloqué des tentatives d’utilisation de Claude afin de fabriquer des armes biologiques. Tout va bien…
Le problème est toujours le meme : s’ils s’arrêtent, les autres vont poursuivre. Donc, même si ça menait droit dans le mur, ils continueraient. La réglementation n’aura un impact que sur ceux qui veulent bien la respecter.
2 « J'aime »
Il y a tristement de plus en plus de mauvaises nouvelles sur l’usage de l’IA, pas beaucoup de bonnes. Résoudre un problème de mathématique, c’est super, mais c’est presque la seule bonne nouvelle ces derniers temps… Alors qu’on a un incident d’un IA qui « s’échappe » (entre guillemets car c’est plutôt une IA non connectée qui a réussi à trouver un moyen de communiquer avec une IA connectée, il me semble), des individus qui veulent des super-armes, un chercheur ayant travaillé pour OpenAI & Anthropic qui estime à 10% le risque d’éradication de l’humanité d’ici 10 ans… certes peut-être peu crédible, mais même à 1% le risque d’ici 100 ans, c’est toujours très mauvais !
Ce rapport montre surtout le risque d’un usage malveillant de l’IA, pas celui d’une IA devenue elle-même malveillante.
En mélangeant détournement par des humains, perte de contrôle et extinction de l’humanité, l’article déplace subtilement la responsabilité de l’utilisateur vers l’outil.
La véritable menace vient d’acteurs humains, étatiques ou non (Chine, Russie, Iran…) susceptibles de détourner ces technologies.
Ce n’est pas une raison pour ralentir le développement occidental de l’IA, car c’est précisément la stratégie de cet cohorte de dictature.
Il faut continuer à accélérer la recherche et l’innovation, tout en investissant massivement dans les garde-fous, la détection des usages malveillants et la sécurité des modèles.
Sur le fond, je suis d’accord. Il faut poursuivre.
Maintenant, vous citez quelques acteurs qui pourraient être problématique. N’envisagez pas que ce soit les seuls.
Et surtout, que veux dire détourner dans notre cas ? Quand les USA ont fait pété une bombe atomique, il n’y a eu aucun détournement. C’était pensé pour ça. L’usage militaire est d’ailleurs très souvent celui qui fait le plus avancer la recherche malheureusement.