Pourquoi payer le prix fort pour utiliser une intelligence artificielle quand des modèles d’IA presque aussi performants peuvent fonctionner sur ses propres machines ? Pour IBM, l’essor des modèles à poids ouverts pourrait bien rebattre les cartes du marché, aussi bien dans les entreprises que chez les particuliers.
Je pense aussi que ce sera une solutions les plus pérennes pour l’avenir. Les IA locales ont plusieurs avantages, à commencer par ne pas dépendre d’une autre organisation, une confidentialité renforcée etc. Reste à voir comment ils vont monétiser cela pour que ce soit rentable? On achète une licence d’un modèle une seule fois? Un abonnement récurrent? Car il faut bien se rendre à l’évidence que jusqu’à présent des sociétés ont dépensé des milliards pour concevoir des modèles puissants et ceux-ci ne génèrent toujours pas de revenu suffisant sur investissement… Et les modèles librement téléchargeables pourraient-ils faire de l’ombre à ces géants? Bref on a quelques sujets de débats sur l’avenir de cette technologie.
1 « J'aime »
Strata+Qwen 3.8 Flash-Next 125B tournent sur 32gb de RAM et 16gb de VRAM et un SSD. Niveau qualité, c’est en effet très proche des gros LLMs en ligne; juste plus lent (génération entre 30 et 150 tk/s selon le GPU; préprompt au dessus des 1000 tk/s).
1 « J'aime »
Pour IBM, l’essor des modèles à poids ouverts pourrait bien rebattre les cartes du marché
Encore un grand prophète en train de prédire avec aplomb le présent ! 
Parce que c’est déjà le cas. Airbnb, Shopify, Coinbase entre autres ont déjà annoncé avoir abandonné les modèles US pour des modèles open-weights chinois pour des raisons de coût -performance.
Sur OpenRouter, la part du trafic de tokens allant vers les modèles US a chuté de 70% à moins de 30% en un an.
C’est pourquoi une valuation d’Anthropic à 2000 milliards, c’est de la fumisterie.
Certains analystes avancent même qu’ il n’existe aucun business case d’importance où un modèle « frontière » est rentable à la fois pour l’utilisateur et le fournisseur..
À voir. Je pense que le très gros de ces dépenses est pour l’exécution des modèles, pas pour leur entrainement.
Un gros modèle d’aujourd’hui, on n’est probablement pas sur plus d’un milliard pour l’entraîner, donc il n’y aurait pas forcément besoin de le vendre une fortune pour rentrer dans ses frais.
ça fait un moment que je pense qu’avoir une IA local dans le cadre une entreprise avec un spark a 5-8k suffisent pour beaucoup de requêtes. Avantage à la souveraineté et moins d’abonnements à avoir. ensuite pour des demandes plus spécifiques et pour certains postes on peux continuer à payer des abonnements surtout pour le code. C’est un mode hybride comme je pratique déjà dans le cadre de mon travail étant IT