La start-up française Mistral AI dévoile ses nouveaux modèles d’IA, baptisés Magistral, conçus spécifiquement pour le raisonnement. Leur particularité : une capacité à détailler leurs processus logiques, offrant une traçabilité accrue pour lutter contre le problème persistant des « hallucinations » des intelligences artificielles.
C’est un peu court, Magistral, là.
dites-moi c’est bien beau tout cela mais nulle part je ne lis le plus important dans une réponse.
Est-ce que cette merveilleuse IA cite ses sources.
Parce que c’est ce que j’attends d’un humain quand je lui pose une question et d’autant plus d’une IA. Si ce n’est pas le cas la réponse reste juste de la daube invérifiable.
1 « J'aime »
Bah…essaye.
(Spoil : oui)
1 « J'aime »
J’ai des doutes qu’elle puisse citer la source puisque c’est le plus probable.
Il y a un raccourci qui me semble ‹ rapide ›.
Comment interdire à ces algorithmes d’extrapoler ? C’est en se basant sur les faits qu’on s’assure d’une ‹ bonne › réponse.
Lorsque le plus probable penche du côté du ‹ fake › car surpondéré on est dans les choux ! Garbage in, garbage out est toujours valable.
Les biais, c’est une autre paire de manches…
Disons que c’est pseudo auditable, et on fait quoi quand le LLM c’est fourvoyé ? On corrigera comment la base ? Ça sera un patche pour 'interdire la question au LLM, avec une réponse toute faite ?
En fait ça dépend comment est construite la réponse.
Si ça se contente d’envoyer le prompt à un simple LLM et de recracher sa réponse, oui, citer les sources est impossible.
Mais si c’est une combinaison LLM + RAG, citer les sources devient possible. En général les modèles de raisonnements avancés fonctionnent plutôt comme ça.
c’est un pléonasme : le RAG (enfin le R) se contente de faire une pré-recherche et sélectionne les documents (souvent 1 ou 2 seulement selon la valeur du cos), du coup il est facile de citer le document d’où sortira la réponse du LLM vu que c’est ce qui alimentera le prompt global.
Mais comment le R(du R)AG peut-il donner des résultats précis et pertinents avec seulement des vecteurs sur 1000 voire 3000 dimensions ?