Pour contrer l’ascension fulgurante du reste des GAFAM sur l’intelligence artificielle, Apple pourrait intégrer la mémoire HBM à ses futurs iPhone. Un bond technologique majeur qui promettrait des performances inégalées en matière d’IA directement sur nos appareils mobiles.
Bon article. Merci. Pour ajouter des détails, la mémoire HBM augmente quand même considérablement la latence d’accès aléatoire sur les données (déjà que c’est pas folichon sur la DDR). Or, justement, dans les très gros modèles type LLM, une inférence nécessite de charger les poids du réseaux qui sont stockés de manière aléatoire en mémoire. C’est donc un plus mais pas aussi important que ce que laisserait penser le facteur d’augmentation de la bande passante.
1 « J'aime »