Les géants de l’IA cherchent absolument tous les matériels pour entraîner leurs IA. Et même les appareils les plus étonnants.
« Et en général, il faut toujours plus de GPU (et de chez NVIDIA quand on a bon goût). »
Ah bon ? Et pourquoi je vous prie ?
Flûte alors, moi qui ait des gpu ATI/AMD depuis près de 30 ans et en ait toujours été satisfait, voilà que j’apprends que j’ai mauvais goût et que je me suis trompé. ![]()
Dites-nous plutôt ce que l’IA n’achète pas et on verra ce qu’il me reste comme choix. Un Tamagotchi peut-être…
Quand on aura un jour un ia digne de Tau dans la maison ![]()
![]()
(et @_JB2 aussi)
« bon gout » je ne sais pas.
En matière de jeux vidéo, on passe par DirectX (ou Vulkan).
Que derrière, il y ait du Nvidia ou de l’AMD ne change pas grand chose.
Mais en matière d’IA c’est différent.
Bien avant l’IA, Nvidia avait déjà créé la librairie CUDA pour faire autre chose que du jeu vidéo avec la puissance de calcul de ses cartes graphiques (comme miner du bitcoin, mais pas que).
Cette librairie est très mature et très bien maîtrisée par des développeurs.
Il existe désormais « llama.cpp » qui essai d’être plus agnostique que CUDA, mais cet agnosticisme à un coût en terme d’efficacité et il y a des décennies d’expérience à rattraper.
Ce n’est pas le tout d’avoir une puce, il faut la librairie pour l’exploiter.
J’ai acheté un PC avec un AMD Ryzen « IA », spécifiquement pour faire tourner des modèles en local. Mais maintenant que j’ai creusé la question, je m’en mords un peu les doigts. Non pas que ce soit un mauvais produit, mais aucun modèle ne l’exploite comme cela pourrait l’être. Le NPU du PC reste désespérément utilisé à 0%. Dommage.
Parce que AMD, ce n’est pas assez cher mon fils! ![]()
Pas tout à fait mais c’est vrai que l’abstraction gomme pas mal de choses.
C’est surtout proche du matériel, et avec la prédominance NVidia en GPU, il FAUT connaitre Cuda ou au moins les caractéristiques des GPU NVidia (cochonnerie de gestion mémoire!
) pour faire des applis performantes sur la majorité des machines. OpenCL est plus universel mais ne masque pas toutes les particularités de chaque matos et il faut souvent faire l’effort d’apdatation aux différent CPU / GPU cibles principaux. Bref, la dominance de NVidia explique plus l’intérêt de Cuda qu’un totale dominance matérielle.
Tout à fait, voir la paragraphe précédent. Malheureusement…