Anthropic vient de publier un rapport très détaillé sur les détournements de son IA Claude. Entre les missiles guidés, l’espionnage russe et la surveillance de masse, l’entreprise dévoile comment plusieurs opérations malveillantes ont exploité l’intelligence artificielle avant d’être neutralisées.
1 « J'aime »
Pour résumer : des individus de Russie, de Chine, d’Iran, et des Houthis du Yemen ont utilisé l’IA à des fins tres malvaillante.
Est-ce une surprise ? Non…
2 « J'aime »
Ce qu’il y a de super avec les scientifiques/ entreprises tech next gen , c’est les propos du genre " c’est un accident" .
Je n’ose même pas imaginer ce qu’officieusement font les militaires des nations les plus puissantes .
Aux usa il serait susceptible de reproduire le dernier ordinateur d’ibm ou d’en avoir une copie et de transposer les logiciels des dernières versions de chatgpt ou d’anthropic .
Imaginez des i.a version quantique autant dire que la puissance est largement démultiplié que ce dont ils nous parlent ouvertement.
Ce n’est plus résoudre un problème impossible en 15 min ( ibm ) ni 4 jours ( chatgpt ) mais en mois d’une minute voir quelques secondes.
Je pense que l’Europe devrait étudier cette possibilité .
Ca craint, tout ça.
L’usage de l’IA (l’usage, pas l’IA en elle même) aujourd’hui ne rapporte que des mauvaises nouvelles. En plus de voir des individus les utiliser à des fins malhonnêtes, dangereuses, il n’aide plus les gens à réfléchir d’eux même (indice ? le classement PISA…)
Que sera la vie quand on sera tous assistés par l’IA, sans emploi (car c’est bien assez probable ! Peu de métiers en réchapperaient, tout semble pouvoir être automatisé/robotisé, car oui si un humain peut, un robot super-IA pourra…), on va beaucoup moins s’intéresser aux cours à l’école, le niveau va terriblement baisser… On va vivre crétins autour des robots trop intelligents…
3 « J'aime »
Contrairement à ce que beaucoup de gens pensent, les ordinateurs quantiques sont extrêmement lents. Ceci est entre autre dû à leur nature probabiliste qui nécessite de répéter le calcul de nombreuses fois pour obtenir un résultat.
Leur avantage provient de ce que pour certains problèmes spécifiques, la quantité de calcul requise augmente de façon linéaire avec la taille du problème alors qu’elle augmente de façon polynomiale pour les ordinateurs classiques.
Un ordinateur quantique même très lent finira donc par battre les ordinateurs classiques quand la taille du problème devient assez grande.
Dans le même temps, les ordinateurs classiques continuent de s’améliorer et l’intelligence artificielle est aussi venue bousculer tout cela, ce qui fait que ces dernières années, l’horizon de la suprématie quantique a plutôt reculé.
1 « J'aime »
Mais bien sur, le gvmy americain n’a pas utilise Claude pour essayer de pirater les autres gvmts du monde entier…
C’est le monde de bisonours…!!
Je crois que le drame la dedans ce n’est même pas ce que le rapport raconte mais le rapport lui même. Etre aussi transparent sur ce que leur IA peut et a fait dans le contexte de crainte actuelle et montante ne veut dire qu’une chose : osef.
Et oui, pourquoi apprendre l’histoire ou les maths ? Il suffit de demander à l’IA et hop, on a l’information ou l’équation / le problème résolu. Les devoirs à la maison n’ont déjà plus aucun sens, et en cours l’attention ne fait que baisser pour les jeunes irrigués aux contenus shorts incapable de regarder une vidéo de 10 minutes, alors un cours « ennuyant » d’1h ou 2h..
Si l’IA devait un jour nous remplacer au boulot (j’entends par là, pas comme aujourd’hui), ça changerait aussi l’éducation, qui ne serait plus une formation pour ton avenir mais pour ton soit (ce qu’elle est de moins en moins). -SI- on fait le bon virage au bon moment. Le contraire peut aussi arriver et on peut devenir les humains de wall-e 
Par contre pour ta comparaison court/vidéo, on est tout réceptif différemment mais personnellement pour avoir été plutôt nul en cours, je n’ai jamais été aussi bon qu’avec un prof de math qui puait la bière, avait la barbe jaune de clope, avait les mêmes fringues toute la semaine, te tutoyais, était très « familier », pour ne pas dire plus, en te parlant et se moquant de toi.
Le problème de l’Éducation est de trouver une façon de t’intéresser aux choses. Et pour moi ce n’est pas au gamin de s’adapter à l’Éducation nationale mais l’inverse. Mais là on part sur autre chose 
(Sauf si l’IA bien contrôlée peut peut être aider dans ce domaine)