Le développeur « Pline le Libérateur » vient de publier OBLITERATUS, une boîte à outils capable de retirer définitivement les mécanismes de refus de n’importe quel modèle de langage open source, sans GPU dédié, depuis un simple notebook Google Colab gratuit.
Bonjour, je ne sais pas à qui s’adresse ce genre d’article, surement très intéressant pour qui en maîtrise les codes, mais si vous voulez le rendre accessible au plus grand nombre il faudrait le vulgariser un peu plus.
Là c’est bien trop compliqué à lire, mais peut-être me suis-je trompé d’adresse ?
5 « J'aime »
Dans la doc:
" 2. Local web UI (your GPU, same interface)
The same Gradio interface as the Space, running on your own hardware with full GPU access:"
Faut-il comprendre par là que l’outil est utilisable sur un LLM local, via Open webUI/Ollama par exemple ?
1 « J'aime »
C’est bien. Ça existe depuis longtemps. Le mec en question n’a rien inventé.
Lmstudio le fait déjà. On peut même adjoindre anythingllm et voilà…
Quand les gens arrêteront de tout melanger…
Le principal intérêt d’utiliser le vrai outil est d’avoir accès à ses outils justement. Et ne pas faire de la simple requête textuelle.
Comme dire qu’on peut utiliser Grok en local bah non… Y’a tout le module imagine qu’on ne pourra jamais utiliser en local.
Pareil pour gemini chatgpt avec le canvas ou copilot avec l’intégration dans office 365 (genre résumé en temps réel un doc ouvert via SharePoint, analyser des flux etc. Car oui copilot a des « agents » quand on paie la licence).
Les version open-source de leur modèle ne sert qu’à faire du traitement de texte bidon… Aucun intérêt…
1 « J'aime »
L’outil revient à utiliser Lmstudio. Aucun intérêt à première vue. Lmstudio plus anythingllm fonctionne très bien en local et déconnecté par exemple. Mais on perd tout l’intérêt des outils propres à chat ia donc…
1 « J'aime »
Article pompeux et a priori traduit de l’anglais vu les tournure de phrase et le vocabulaire utilisé…
Ça dit juste comment fonctionne obliteratus c’est tout. Pour le commun des mortels on s’en fout… Toute façon toutes les versions locales fonctionnent déjà sans censure, personne n’a attendu cet outil pour utiliser Lmstudio…
1 « J'aime »