La BBC a mené une enquête en testant les principaux services d’intelligence artificielle sur ses propres articles. Le résultat est sans appel : vérifiez bien les informations délivrées par l’IA, qui commet encore de très grosses erreurs.
Comme on dit entre collègues, avant de poser une question à une IA, mieux vaut avoir une bonne idée de la réponse.
2 « J'aime »
C’est le risque principal que je vois : utiliser l’IA pour avoir une réponse définitive sur un sujet que l’on maitrise mal. Par contre, pour des sujets correctement maitrisé, l’IA a pu m’apporter des sources originales (et fiables, pas du francesoir) qui ont complété mes infos.
si le sujet est maîtrisé quel intérêt de demander ce que tu sais déjà ?
Par rapport à la complétion d’info : dans la même logique comment peux-tu être sûr que les infos complémentaires sont justes et non des hallucinations ?
Est-ce que des stats équivalentes sont faites sur les informations diffusées par les journalistes ?
L’IA est souvent utilisée comme assistant dans ton domaine professionnel. Tu peux plus facilement connaître le sérieux des réponses et en contrôler les sources que lorsque tu ne connais rien à un domaine.
En l’utilisant pour affiner une programmation, un script ou demander une solution à un problème que tu rencontres dans ton code, tu peux analyser facilement la réponse et c’est vraiment utile.
Quand tu veux t’informer, il faudra toujours faire comme avant, contrôler les sources et ne pas laisser l’IA t’imposer sa vision et son analyse.
Je ne fais jamais 100% confiance à un inconnu déclarant maitriser un sujet auquel je ne connais rien. C’est pareil pour l’IA.
1 « J'aime »
C’est en bonne partie à cause des droits d’auteur. Les IA sont obligées de tout reformuler pour ne pas être attaquées, ce qui cause de genre d’effets négatifs.
Peut être en partie.
Mais c’est surtout un problème intrinsèque aux IA, et surtout aux LLM. Attendu qu’aucune info n’est réellement stockée, la restitution se base sur une probabilité avec un grain d’aléatoire. Ca donne un résultat qui semble impeccable sur la forme mais qui est très imparfait sur le fond.
Par analogie, on pourrait rapprocher les réponses des LLM à des intuitions, des impressions, des associations d’idées et du « bon sens » (souvent un ensemble de préjugés) sans contexte ni logique sous-jacente. C’est super utile en recherche ou quand on cherche une idée pour avancer sur un problème et que l’on est capable de valider les choses produites, mais sinon, ça me semble bien risqué!
L’IA me permet de faire rédiger un texte clair, parfois un peu simple, rapidement, sur un sujet que je maitrise. Sur un sujet dont je ne maitrise pas tous les tenants et aboutissants, pour peu que le sujet soit controversé, tu te retrouves à une mise à égalité de toutes les théories. En poussant à l’extrême, avec la baisse de qualité des sources, tu vas avoir à un moment le modèle héliocentrique considéré comme controversé.
1 « J'aime »