Le SoC actuel gravé en 4 nm est déjà surchargé de cœurs Performance ; son successeur, qui bénéficiera du 3 nm, continuera dans cette voie, avec une particularité prometteuse.
Le petit plus pour l’ia ça ne serait pas des unités tenseur ?
1 « J'aime »
Bonjour,
et on peut imaginer que ce soit vrai, mais il s’agit de quelque chose d équivalent, doué pour les additions/multiplactions matricielles.
Tensor est l’appellation de ces unités dédiées par Nvidia.
Donc chez Mediatek ou autre ca ne saurait s’appeler Tensor, sauf autorisation ou dépôt de brevet. ( je crois que google a des tensor aussi)
Après tout va dependre du logiciel, chez amd grand public les cores ia sont récents, du coup ceux qui utilisent pytorch ( tres utilisé, voir incontournable en IA) ne bénéficient pas de tensor, les calculs sont pour le coups un peu plus sequentiels que matriciels, néanmoins opencl est capable et le facteur d amélioration nvidia/cuda/tensor n’est pas aussi énorme qu on peut le croire, à gamme equivalente ( ex 7800 vs 4070) pour du llm la différence va de 30 à 100% pour ce que j ai pu en tester ( oobabooga lmstudio SD), theoriquement les gains de tensor devraient assurer 4 a 10 fois la vitesse de traitement sequentiel de matrice comparé à opencl et ce n’est pas toujours le cas, parfois oui.
L idee d avoir une puce mobile tres capable en IA avec une conso ridicule mériterait que des fabriquants fournissent des sbc équipés de la sorte.
Pour vous ouvrir un peu sur l’ia, regardez ce qui se fait et va se faire du coté des cpu analogiques, des tests récents montrent des efficacités pour l’ia environ 30 fois supérieures a ce que propose tensor, a surveiller, si clubic nous pondait un article ça serait super .
Merci pour cet excellent retour.
Pour le coup j’ai les tenseur en tête du fait de travail (pour le moment) avec tensorflow (et java…) et qu’il me semblait également que Google avait du hardware dédié tenseur.
Il est vrais que les gains en test était en deçà des attentes (comparativement au gain cpu-> gpu) , mais il s’agit néanmoins d’une techno jeune qui ne demande qu’a mâturer.
Pour ce qui est des cpu analogique (que je pensais éteint depuis les années 70). Je peu en effet imaginer un intérêt sur du réseaux de neurones… Je vais regarder la littérature la dessus, mais si tu as des références sur le sujet, je suis preneur.
Par exemple