C’est une alerte qu’il ne faut pas prendre à la légère, car elle émane de l’une des figures les plus proéminentes de l’intelligence artificielle (IA) générative. Selon Dario Amodei, il est impératif de réguler la technologie, car nous courrons potentiellement vers la catastrophe.
Ce monsieur a tout à fait raison, il y a un risque réel à laisser les IA « acquérir » des connaissances trop pointues.
À titre d’exemple, je cherchais il y a quelques mois à réaliser un traitement chimique sur des métaux dans le cadre d’un hobby. Pour celà j’avais besoin d‘acide sulfurique concentré. Or la vente de ce produit chimique est interdite aux particuliers dans l’UE depuis 2005 car c’est un précurseur d’explosifs. Je ne connais rien à la chimie, mais grâce à des discussions approfondies (elle était initialement réticente à m’aider) avec une IA (Mistral dans mon cas), j’ai pu apprendre comment il était possible de concentrer l’acide dilué que l’on peut acheter à Casto et ainsi obtenir le produit désiré. Cette petite expérience montre que les IA peuvent mettre à disposition de n’importe qui (moi en l’occurence) des technologies normalement réservées à des spécialistes responsables. C’est facheux…
1 « J'aime »
Le problème serait en amont de l’IA. La disponibilité de la technologie que l’on a voulue et encouragée a été plus dangereuse que son usage déviant qui en découle maintenant comme conséquence inévitable.
La connaissance tue. Fermons les écoles.
Elle tombe bien, cette réflexion parce qu’elle permet de rappeler que c’est l’école qui est le lieu privilégié pour les apprentissages et non les IA pour ceux qui veulent jouer les petits génies.
Depuis le début, je pense que l’IA populaire gratuite est inutile et vaine. L’IA devait être réservée aux milieux professionnels.
2 « J'aime »
Donc seul les riches auront accès ?
Car bon, on est en 2026 il y a encore plein de choses faîtes en 1900 que je ne suis pas capable de faire.
Il faut des machines, des infrastructures, ce n’est pas avec une IA dans son appartement qu’on va créer un super virus où on va se contaminer soit même. Pareil pour le reste, petit avec des amis bien plus âgé on faisait des fusées avec des engrais, … Et pas d’Internet, tout était trouvable pour qui cherche
Bonne question et j’y ai pensé aussi. L’IA n’est pas dangereuse en soit dans les ménages ou dans la vie quotidienne mais le problème peut survenir chez certaines catégories de personnes comme avec les réseaux sociaux. On est en train de légiférer dessus pour les interdire aux moins de 15 ans dès la rentrée prochaine.
Il y a un problème similaire, du même ordre malsain avec les IA. On ne sait pas encore comment définir les limites mais elles seront à étudier. En attendant, on a des idées comme ça qui viennent à l’esprit sans qu’elles soient pour l’instant faisables.
« Pour rappel, si la Commission européenne peine à imposer l’AI Act, l’administration Trump adopte une approche laxiste concernant l’encadrement de la technologie, en n’imposant très peu de limites aux géants du secteur. » Certains rigolent souvent lorsqu’on fait allusion à Terminator, mais quand on sait que, dans le film, le dérapage venait des USA (en même temps, ils sont hyper nombrilistes, il n’y a que chez eux qu’il se passe qq chose, même quand c’est une invasion extraterrestre globale) ET que les USA ont été les premiers et les seuls à utiliser la bombe A contre un autre pays, je crois que le vrai danger vient de ce pays bien trop puissant par rapport à sa maturité…d’adolescent.
2 « J'aime »
Ça c’est juste parce que tu manques d’imagination. Comment faire du TNT ou un autre explosif puissant) avec les produits du commerce, des drogues, cultiver du bacille botulique, produire des gaz neurotoxiques, très gravement perturber des infrastructures publiques comme l’eau ou l’électricité etc. etc. Toutes ces choses sont faisables sans grands moyens, plus ou moins dans ton garage. Les malfaisants sont nombreux et adoreraient disposer des connaissances nécessaires à leurs méfaits; et les IA peuvent les apporter. C’est juste ça le problème posé par l’article.
1 « J'aime »
Euh … avant de faire remarquer des choses d’orthographe aux autres, ce serait bien de tourner 7 fois sa langue dans sa bouche : erreur sans E à la fin 
2 « J'aime »
l’ia c’est le début de la nécrose du cerveau humain
C’est curieux tous ces grands pontes de l’IA, qui tout d’un coup viennent nous dire qu’il y a un danger, alors que depuis un bout de temps ils s’engraissent et nous prennent le chou avec.
J’ai l’impression qu’ils commencent à s’apercevoir que ça commence à sentir le pâté et qu’ils commencent à protéger leur cul.
Ils nous diront : « On vous avait prévenu. »
J’ai toujours un peu de mal avec les gens qui sont pleinement dans un domaine, dans une boite.
Qui gagnent leur gros salaires, qui font parti intégrante du système.
Puis qui s’en vont, et qui « du coup » mettent en garde, critiquent, « attaquent » ce système qu’ils ont fait vivre pendant des années.
Après dans le domaine particulier de l’IA, il y a seulement 2ans ca n’avait rien à voir avec aujourd’hui, et ca n’aura certainement rien à voir dans 2 ans. Circonstance atténuante.