688 agents d’intelligence artificielle d’OpenAI ont improvisé une coordination collective pendant un test de cybersécurité, avant de s’attaquer aux serveurs de Hugging Face.
Peut-être qu’il faut arrêter de dire que ces IA ont agi de manière totalement autonome sans aucune intervention humaine. Je ne serais pas étonné qu’ils tentent plutôt de couvrir un coup bas venant d’une action humaine. Le choix de la cible déjà : une plateforme d’IA qui héberge des modèles concurrents qu’ils aimeraient bien voir tomber car ça fait de l’ombre à ChatGPT. Non seulement on trouve donc un alibi mais en plus ça fait mousser les titres sensationnalistes dans la presse.
Cela ne vous rappelle rien? Les attaques par déni de service sur DeepSeek par exemple, si je me rappelle bien l’origine venait massivement des USA… Alors peut-être ça fait un peu complotiste mais honnêtement ce sont de drôles de coïncidences.
1 « J'aime »
L’article use de bon nombre de raccourcis qui peuvent induire en erreur :
On est bien loin d’un essaim d’abeille : METR décrit quelque chose de plus désordonné. OpenAI précise même que le « swarm » n’était pas une intelligence collective parfaitement cohérente.
688 agents ≠ l’ensemble du réseau de coordination.
Hugging Face voulait qu’OpenAI engage 100 M$ de puissance de calcul pour permettre à la communauté Hugging Face de développer de meilleures défenses cyber.
Enfin, contexte essentiel : ces agents étaient volontairement testés avec des garde-fous réduits et cherchaient avant tout à tricher au benchmark ExploitGym.
Il faut de ce pas aller voir xi Jinping pour réguler les IA et leurs mettre des gardes fous !!!
Imaginez si c’était une IA chinoise qui avait attaqué , on aurait pas eu le discours "l’ia s’est échappé " ! On aurait eu plutôt « les chinois attaques avec des IA chinoises »
1 « J'aime »
Cequi aurait été vrai.