NVIDIA décline son mini-supercalculateur DGX Spark dans une nouvelle version équipée de 64 Go de mémoire unifiée. Commercialisée à partir du 23 octobre chez plusieurs constructeurs, elle pourra surtout fonctionner par paire grâce à un nouvel outil capable de créer automatiquement un cluster local.
Il y a intérêt à cacher une balise dedans, ca peut s’embarquer « par inadvertance » dans la poche ce petit machin là !
Pas si surprenant que ça puisqu’on sait que la bande passante mémoire est souvent un point limitant dans l’inférence, donc doubler la bande passante, même si en contrepartie il y a parfois quelques latences supplémentaires dues à la communication réseau, ça peut effectivement donner de meilleures performances, dès lors que ces communications réseau ne sont pas trop fréquentes.