Commentaires : Des chercheurs inventent une maladie imaginaire pour piéger l'IA, quelques temps plus tard elle est citée... par des chercheurs humains

Des scientifiques ont voulu piéger l’intelligence artificielle en inventant une maladie, pour voir ce que l’IA ferait de son savoir. Mais l’expérience a donné des résultats qui font mal !

https://clubic.com//actualite-610030-des-chercheurs-inventent-une-maladie-imaginaire-pour-pieger-l-ia-quelques-mois-plus-tard-elle-est-citee-par-des-chercheurs-humains.html

Super, ma prochaine visite chez le Dermato ce fera donc avec Spok ou Gandalf… :mask: Je vais éviter Homer quand même… :face_with_monocle:

1 « J'aime »

Ce n’est pas l’IA le problème mais l’intelligence humaine… Des gens qui ne sont plus capables d’avoir un esprit critique ou de vérifier ce que débitent ces IA.

3 « J'aime »

L’IA bouffe n’importe quoi, c’est un problème

2 « J'aime »

L’IA n’est qu’une machine (d’ailleurs dans IA, je me demande si le mot intelligence est vraiment utile).
Par contre, des gens qui se prétendent chercheurs…

1 « J'aime »

Le I peut signifier intelligence comme inintelligence :wink:

2 « J'aime »

Non non c’est bien l’ia à la base du problème. Car elle met toutes les données qu’elle digère au même niveau. Les publications scientifiques ont des systèmes très procédurés qui permet des contrôles et des statuts jusqu’à leur validation qui peut prendre des années. Et là l’ia traite un papier sans valeur pour lui en donner autant que de réelles publications. Alors oui à la fin tu as toujours des humains pour faire une confiance aveugle… comme toujours. Dans ces domaines très réglementés et structurés il faut toujours demander aux ia leurs sources et les vérifier / challenger. Et la on se rend compte que les ia interprètent à mort ! Ça s’améliore en activant les raisonnements profonds dans les options.

3 « J'aime »

Je ne partage pas entièrement vos avis. Certes, sages, mais en partie erronés. L’article concerne l’IA grand public, et vous avez raison de souligner les controverses et les dérives liées aux données ainsi qu’à des algorithmes parfois trop permissifs. Toutefois, les IA utilisées dans le domaine scientifique sont, au contraire, extrêmement rigoureuses, précises et transparentes quant à leurs sources et à leurs méthodes de traitement. Leurs résultats peuvent être véritablement impressionnants, au point que, face à un problème de dynamique des fluides, j’ai eu le sentiment de bénéficier de l’expertise combinée d’une centaine de spécialistes, tant leur efficacité et leur utilité sont remarquables. Il existe donc une différence considérable en termes de résultats, de précision et d’efficacité entre une IA grand public généraliste et une IA spécialisée.

1 « J'aime »

D’accord, il y a IA et IA. On peut très bien entraîner les IA avec des données académiques dans tous les domaines du savoir.
C’est au savants de tous les domaines de s’emparer de l’IA et ne plus la laisser aux informaticiens.

[Premier degré mode on]
Ici, le mot “intelligence” ne veut dire rien d’autre que “renseignement”. Comme pour tout service de renseignement (d’où la notion d’“intelligence avec l’ennemi” en cas d’espionnage, par exemple). Et c’est aussi pour ça qu’on retrouve ce mot “intelligence” dans “CIA”, alors que tout le monde sait que ce ne sont pas toujours les plus futés (vieille blague popularisée depuis longtemps :grin: ; en France on a longtemps eu la même chose avec la DGSE qui n’étaient pas toujours les couteaux les plus affûtés du tiroir :confused:, contrairement à son alter ego la DST)…

L’IA n’est donc rien d’autre que du renseignement sous stéroïdes. :wink:

Ne surtout pas confondre avec l’autre définition du mot “intelligence” qui définit pas mal d’animaux et, surtout, nous les humains. Celle-ci décrit l’inventivité, la créativité, les émotions, etc. Avec leurs mécanismes d’apprentissages et de traitements actuels, les IA en sont très loin.
[/Premier degré mode off]
:slightly_smiling_face:

1 « J'aime »