Elon Musk l’admet à son tour : les données disponibles pour former les intelligences artificielles s’amenuisent considérablement. Pour pallier ce manque, les entreprises se tournent vers une autre méthode d’entraînement moins onéreuse, mais non sans danger.
Ça m’étonnerait qu’il n’y ait puls assez de « données » pour alimenter les IA !
Déjà commencer par leur faire lire tout ce qui n’est pas numérisé ou accessible librement quand ça l’est.
Comme les livres, les publications scientifiques, et tout ce que l’humanité a produit depuis des siècles.
Ah mais c’est vrai, les livres et la science, c’est pas ce qui intéresse le loustique…
Et ma foie quand y’aura vraiment plus rien à leur faire lire, bah faudra passer à autre chose, genre la musique, les films, le théâtre, bref la culture en général.
Ah mais mince, là aussi il s’en tape…
5 « J'aime »
On a donc une consommation des connaissances humaines totalement englouties pour des résultats qui « ne reflètent pas toujours la complexité et les nuances des scénarios du monde réel »…
Alors plutôt que de d’abord parfaire ces mêmes résultats pour qu’ils collent à la réalité, on préfère les réintroduire tels quel pour nourrir l’apprentissage d’IA?
La course effrénée entre des géants qui s’intensifie dévoile de plus en plus cette bulle, voir
ce marché de « spéculation d’intelligence », quant à savoir si ou quand elle éclatera…
1 « J'aime »
Il y a surtout lire et comprendre. Une « intelligence naturelle » n’a pas ingurgité 10% de la masse de contenus qu’on leur fourni… Ils sont juste en face de leur réalité de ce qu’ils nous vendent comme des IA.
L’outil regarde juste la probabilité pour que sa proposition de réponse se rapproche d’une situation similaire qu’il a en mémoire, mais il n’y a aucun vrai raisonnement. Donc pour toujours plus de pertinence, il faudra toujours plus de situations similaires, et l’improvisation donne les « hallucinations ».
ChatGPT et consorts, c’est absolument génial, ça révolutionne nos usages, mais CE N’EST PAS UNE INTELLIGENCE.
4 « J'aime »
Perso pour moi un « bonne » IA devrait avoir englouti et analysé tout le contenu des bibliothèques et musées du monde, chaque écrit « d’hier et d’aujourd’hui ».
1 « J'aime »
L’utilisation de données synthétiques est la cause du plafonnement actuel des progrès et de certaines régressions dans certains cas. C’est aussi la raison pour laquelle Chatgpt 5 ne sors pas …. Fini de faire apprendre sur des lots de data de plus en plus gros. On a épuisé toutes les sources numériques.
« Comme les livres, les publications scientifiques, et tout ce que l’humanité a produit depuis des siècles.
Ah mais c’est vrai, les livres et la science, c’est pas ce qui intéresse le loustique… »
tu projettes un truc, mais non, c’est tout le contraire.
les PREMIERES datas qu’ont mangé les IA sont les publications scientifiques, extrêmement normées et faciles à acheter , sourcer, auto-contextualisées…
1 « J'aime »
C’est vrai que la connerie humaine est infini, aucune IA ne peut l’absorber… 
2 « J'aime »
En meme temps, c’est un peu pareil pour l’humain. On a apris à faire des raisonnements. La logique n’est pas innée. Lorsqu’on parle, on ne réfléchit pas en avance aux mots utilisés, pareil lorsqu’on écrit. C’est quoi une intelligence ? Une conscience ? C’est quoi la conscience ? Elle est ou ? Est-elle plus qu’une réaction chimique ? Si oui, prouve le, si non, et nous ne sommes pas plus intelligents que ces modèles.
C’est que tout simplement, il ne s’agit pas « d’intelligence », mais d’interprétation statistique et d’heuristique, qui ne répond elle qu’imparfaitement à la sollicitation.
On nous vend ça comme de l’intelligence, mais sans garde fou, ces processus pètent une case directement.
Et on veut confier notre avenir à cette imposture ?
C’est un début de forme d’intelligence oui, mais ça reste quand même pas du tout basé sur le raisonnement, c’est de la recherche de similarité permanente.
Quand tu lui demandes combien d’itérations d’une lettre il y a dans un mot et qu’il se trompe, ça veut dire qu’il est loin d’un raisonnement où il va se dire « 1/ je reprend mon mot, 2/ je compte le nombre de fois où j’ai utilisé le caractère en question, 3/ je donne la réponse ».
On voit aussi très bien le problème sur l’IA générative sur les sujets de diversité notamment :
Elle sait très bien faire les éléments de façon séparée, mais dès qu’on commence à les combiner, elle est perdue. C’est simplement parce que l’IA va juste vérifier si elle trouve assez d’images « approchantes de sa propre génération aléatoire » qui répondent au critère du prompt de départ. Donc effectivement, plus le catalogue est grand et plus elle pourra s’approcher de nos requêtes, mais a priori, elle ne sait toujours pas « réfléchir ».