COMPTOIR
register

Le JEDEC a finalisé la HBM4 : jusqu'à 64 Go et 2 To/s

Le JEDEC a publié la spécification officielle de la norme HBM4 (High Bandwidth Memory 4), estampillée JESD270-4, le 17 avril. Rien de très original, l'organisme indique que cette norme a été conçue pour répondre aux exigences croissantes des charges de travail en intelligence artificielle (IA) et en calcul haute performance (HPC). Elle apporte diverses améliorations pour accroître la bande passante, la capacité et l'efficacité de la mémoire.

hbm4 sk hynix

Image d'illustration utilisée par SK Hynix pour annoncer ses premiers échantillons de HBM4 12Hi (19 mars 2025)

Toujours plus !

À l’instar des précédentes versions de HBM, la HBM4 repose sur des puces DRAM empilées verticalement. En termes de capacité, HBM4 supporte des configurations de piles de 4 à 16 hauteurs et propose des densités de DRAM allant de 24 Gb à 32 Gb. Cela permet d'atteindre des capacités maximales de 64 Go en utilisant des piles de 32 Gb à 16 étages — c'est 48 Go pour la HBM3E 16-Hi de SK Hynix.

hbm4 piles

L'une des principales améliorations de HBM4 réside dans le doublement du nombre de canaux indépendants par pile : il passe de 16 à 32, et ajoute des pseudo-canaux. Cette évolution augmente la flexibilité d'accès et le parallélisme dans les opérations mémoire. De plus, la HBM4 sépare les bus de commande et de données, ce qui réduit la latence et améliore la simultanéité des opérations. La norme permet des vitesses de transfert allant jusqu'à 8 Gb/s sur une interface de 2048 bits. La bande passante totale peut atteindre 2 To/s.

D'autre part, la prise en charge de plusieurs niveaux de tension spécifiques, incluant des options comme 0,7V, 0,75V, 0,8V ou 0,9V pour le VDDQ, ainsi que 1,0V ou 1,05V pour le VDDC, contribuent à améliorer l’efficacité énergétique. La HBM4 introduit également le Directed Refresh Management (DRFM). Cette fonctionnalité atténue le row-hammer tout en supportant des fonctions de fiabilité, de disponibilité et de maintenance (RAS — Reliability, Availability, and Serviceability) avancées.

Enfin, la HBM4 reste compatible avec les contrôleurs HBM3 existants. Un contrôleur peut fonctionner à la fois avec de la HBM3 et de la HBM4 si nécessaire. Le JEDEC vante en la flexibilité d’intégration qui en résulte.

Comme en en attestent les nombreuses déclarations du communiqué de presse, la norme HBM4 est le fruit d’une collaboration de plusieurs entreprises, dont Samsung, Micron et SK hynix. Certaines prévoient de lancer la production de HBM4 dans le courant de l’année. Vous trouverez le PDF de 280 pages qui détaille la norme sur le site du JEDEC. L'accès au document est gratuit, il suffit de s'enregistrer.

Un poil avant ?

NVIDIA dégaine les pilotes 576.02, la fin des galères pour les RTX ?

Un peu plus tard ...

Les Nova Lake-S mettraient les cartes mères LGA-1851 à la retraite

Les 7 ragots
Les ragots sont actuellement
ouverts à tous, c'est open bar !
par Un ragoteur de transit du Grand Est, le Mardi 22 Avril à 20h34  
par Un ragoteur bio en Île-de-France ?? le Dimanche 20 Avril à 12h33
Ca couterai combien un Halo Strix avec 2 puces HBM4 ?
128Go à 4To/sec ca pourrait envoyer du pate dans un form factor sympa. Je ne comprends pas pourquoi ca n'est pas utlisé pour le grand public, c'est si cher à produire ? On voit bien des carte graphique à 3000€ qui se vendent à la pelle, pourquoi pas un laptop à 3000€.
L'HBM sur les Vega 56/64 coutait il me semble assez cher, et il y avait 2 épaisseurs d'HBM possible selon comment c'était soudé/intégré, nécessitant un refroidissement adapté, sauf que les constructeurs mélangeaient les 2 avec le même refroidisseur, bridant presque la moitié des cartes, voir les cramaient (mais ça je ne suis plus sûr)
Lors des annonces de l'HBM 2 et 3 les prix étaient encore bien hauts.
par Un ragoteur bio embusqué, le Lundi 21 Avril à 13h24  
par Un galvaudeur du guignol en Île-de-France ?? le Lundi 21 Avril à 10h08
Il me semble que ça ne consomme pas tant que ça, je me souviens des GPU Hawaii en bus 512 bit dont le contrôleur mémoire consommait une blinde, le fait de passer à 4 modules HBM (4096bits) avec Fiji avait résolu le problème.
Dans le cas de la HBM, le souci n'est pas la consommation de la RAM mais du processeur nécessaire pour en exploiter la bande passante.

Je n'ai pas suivi depuis la HBM première du nom, mais à l'époque la consommation de la transmission d'un bit à fréquence typique était grossièrement divisée par 3 par rapport à la GDDR5. Depuis, l'enjeu a surtout été d'augmenter la densité de stockage (Fiji était d'ailleurs assez critiqué pour ses maigres 4Go), en lien avec les besoins des algorithmes "IA" qui mettent en oeuvre des datasets gigantesques, mais on peut supposer que la consommation a encore un peu baissé (pas vérifié, mais NVidia semble avoir publié un PDF à ce sujet).

Du coup, j'avais intégré ça à la consommation de la portion "calculs" de Navi48 en retranchant une cinquantaine de watts, une 9070XT consommant plutôt de 250~300W pleine balle.
par Un galvaudeur du guignol en Île-de-France ••, le Lundi 21 Avril à 10h08  
Il me semble que ça ne consomme pas tant que ça, je me souviens des GPU Hawaii en bus 512 bit dont le contrôleur mémoire consommait une blinde, le fait de passer à 4 modules HBM (4096bits) avec Fiji avait résolu le problème.
par Jemporte, le Dimanche 20 Avril à 21h39  
par Un ragoteur bio embusqué le Dimanche 20 Avril à 14h33
On va avoir un souci pour exploiter une telle bande passante avec un processeur à TDP raisonnable.

Pour rappel, une 9070XT est loin d'exploiter ne serait-ce que la bande passante d'une unique pile de HBM4, et ça dans 200~250W, impliquan qu'on est encore sacrément loin, à supposer qu'on puisse y arriver, de pouvoir intégrer un tel monstre dans un simple desktop.
Elle pourrait. Encore faudrait-il qu'elle dispose de l'interface HBM et pas GDDR6.
par Un ragoteur bio embusqué, le Dimanche 20 Avril à 14h33  
par Un ragoteur bio en Île-de-France ?? le Dimanche 20 Avril à 12h33
Ca couterai combien un Halo Strix avec 2 puces HBM4 ?
128Go à 4To/sec ca pourrait envoyer du pate dans un form factor sympa. Je ne comprends pas pourquoi ca n'est pas utlisé pour le grand public, c'est si cher à produire ? On voit bien des carte graphique à 3000€ qui se vendent à la pelle, pourquoi pas un laptop à 3000€.
On va avoir un souci pour exploiter une telle bande passante avec un processeur à TDP raisonnable.

Pour rappel, une 9070XT est loin d'exploiter ne serait-ce que la bande passante d'une unique pile de HBM4, et ça dans 200~250W, impliquan qu'on est encore sacrément loin, à supposer qu'on puisse y arriver, de pouvoir intégrer un tel monstre dans un simple desktop.
par Un ragoteur bio en Île-de-France ••, le Dimanche 20 Avril à 12h33  
Ca couterai combien un Halo Strix avec 2 puces HBM4 ?
128Go à 4To/sec ca pourrait envoyer du pate dans un form factor sympa. Je ne comprends pas pourquoi ca n'est pas utlisé pour le grand public, c'est si cher à produire ? On voit bien des carte graphique à 3000€ qui se vendent à la pelle, pourquoi pas un laptop à 3000€.
par Jemporte, le Dimanche 20 Avril à 10h52  
Ah, enfin de la bonne mémoire pour les prochains GPU.
De quoi faire de l'IA@Home.