La mémoire vive flambe depuis un an à cause de l’appétit des serveurs d’intelligence artificielle. AMD vient de racheter une jeune pousse qui promet d’en fabriquer, ou presque, à partir de stockage bon marché. Et toujours grâce à l’IA.
Ça doit pas être très rapide tout ça et user prématurément la nand
C’est un peu comme de la mémoire virtuelle si j’ai bien compris
Oui, c’est le même concept, avec simplement un changement dans la logique déterminant ce qui est mis en « swap » et ce qui est remis en RAM.
Dans le fonctionnement classique, ça met généralement en swap les pages mémoire dont la dernière utilisation est la plus ancienne, et ça les remet en RAM quand il y a un accès dessus.
Là la mise en swap est anticipée, et surtout, concentrée sur des pages dont le contenu change peu ou pas du tout (et ça c’est très bien adapté à l’IA, car les modèles sont volumineux, mais ne changent pas souvent), plus que simplement sur l’utilisation la plus ancienne, et la remise en RAM est faite de façon prédictive plutôt qu’au moment de l’accès.
Et en toute logique, quand l’algo prévoit ensuite que ces données vont de nouveau ne plus être utilisée pour un moment, elles sont retirées de la RAM, le plus souvent sans être réécrites dans le swap (puisqu’elles y sont déjà et n’auront en général pas été modifiées depuis leur précédente écriture), ce qui fait que l’usure de la NAND ne sera pas forcément forte, les quantités d’écritures vont rester assez limitées.