Le KAIST anticipe les générations HBM de la prochaine décennie

Il y a quelques jours, AMD a officialisé ses accélérateurs Instinct MI350 Series. Avec un TDP peak de 1400 W pour le MI355X, contre 750 W pour le MI300X, ces nouveaux venus illustrent, après ceux de NVIDIA, l’envolée des puissances en dépit des gains en efficience (lesquels sont de toute façon largement contrebalancés par le paradoxe de Jevons dans nos sociétés). Selon des projections du KAIST (Korea Advanced Institute of Science & Technology) et du TERA (Terabyte Interconnection and Package Laboratory), portant sur les prochaines générations de HBM, cette tendance ne va pas ralentir, bien au contraire.

HBM 2035

Les documents tracent une feuille de route en utilisant les futures générations de GPU NVIDIA, sur un rythme triennal. La série Rubin, dotée de HBM4, inaugure le cycle avec des capacités comprises entre 288 et 384 Go. Viendrait ensuite la génération Feynman (nom de code officialisé par NVIDIA), basée sur de la HBM5, attendue entre 400 et 500 Go. La HBM6 viserait entre 1536 et 1920 Go, et la HBM7 pourrait offrir jusqu’à 6144 Go. Les architectures post-Feynman restent inconnues à ce jour.

Cette montée en capacité s’accompagne bien sûr d’une hausse de la bande passante, mais aussi de la consommation. Les prévisions estiment que des systèmes complets pourraient dépasser les 15 000 W d’ici 2035.

Le KAIST et le TERA anticipent en conséquence la nécessité de solutions de refroidissement par immersion dès la HBM5 (100 W), puis l’intégration de solutions thermiques intégrées à partir de la HBM7 (160 W).

Bien sûr, ces chiffres demeurent spéculatifs. Le JEDEC n’a finalisé la HBM4 qu'en avril dernier ; l'organisme est donc loin d'avoir gravé dans le marbre les spécifications de la HBM5. Il s’agit de projections qui anticipent les besoins présumés du marché et des modèles industriels. Ceci étant, il est clair que les centres de données ne s’orientent pas vers la frugalité.

Vous trouverez plein d’autres diapositives chez WCCTech.