je me penche depuis plusieurs jours sur leur cas pour un projet pro et je commence à comprendre vraiment comment ça fonctionne sous le capot.
je fait ça avec ollama et openweb-ui.
Je réalise qu’ils fonctionnent comme une colonie de fourmis en fait. c’est un concept bien connu, c’est juste impressionnant par l’échelle à laquelle on l’applique maintenant.
Donc même avec un modèle bien entraîné et un prompt très précis on est jamais totalement à l’abris d’une hallucination.
donc ça élimine pour le moment mon intention de l’interfacer avec un ERP pour aider la créaion de contacts, factures etc…
enfin je commence à regarder le tableau de bord des modèles, les modèles RAG, le prompt système et la template. je pense qu’on peut les circonscrire à certaines taches bien définit et leur interdire d’aller plus loin.
si vous avez des experiences et conseils à m’indiquer à ce sujet, je prends.
Pour mon ERP j’ai deux projets distincts, je pense utiliser un modèle léger comme tinyllama pour interroger l’api REST d’abord en consultation pour faire des recherches parmi les clients par exemple.
je m’interesse au RAG aussi pour écrire un chatbot d’assistance pour mes clients qui piocherait ses réponses dans ma FAQ, sinon ouvrirait automatiquement un ticket de support pour eux (un technicien N1 quoi)