AMD déploie son AI Bundle pour démocratiser l’IA locale

Dans une volonté de simplifier l’accès local aux outils d’IA, AMD a publié son Software: Adrenalin Edition 26.1.1, qui intègre l’AI Bundle. Il s’agit d’un programme d’installation optionnel, que vous pouvez choisir d’installer, ou non (d’où l'optionnel), directement via le logiciel Adrenalin Edition.

Un pack de 34 Go

Commençons par les cibles. L’entreprise en liste trois ou quatre, selon votre interprétation. Les premiers sont bien sûr les créateurs, qui « explorent des workflows de génération d’images, le storytelling visuel ou l’ingénierie de prompts à l’aide d’outils intuitifs comme ComfyUI ». Les deuxièmes sont « les développeurs à la recherche d’un environnement local fiable pour l’entraînement, l’inférence et le prototypage rapide ». Enfin viennent les « étudiants et chercheurs », mis dans le même panier (ce qui est parfois le cas, mais pas toujours), « ayant besoin d’une configuration prévisible pour apprendre, tester des idées et mener des expérimentations sans les contraintes du cloud ».

Quelles armes leur sont fournies ? PyTorch sous Windows, pour créer et entraîner des modèles à partir de zéro ou charger des modèles existants pour l’inférence ; ComfyUI, pour des workflows visuels de génération d’images, accélérés par ROCm PyTorch ; Ollama, pour exécuter des LLM (Large Language Models) localement, à des fins de génération de texte et de prototypage ; LM Studio, afin d’installer et d’exécuter de grands modèles de langage avec un réglage aisé des paramètres ; Amuse, enfin, permet de s’amuser à générer des images à partir de texte.

Ce pack « Adrenalin AI » est pris en charge par les cartes graphiques Radeon RX série 9000 et RX série 7000, mais uniquement à partir de la RX 7700 ou supérieure pour ces dernières. Détenteurs de RX 7600 ou de RX 7600 XT, vous n’êtes donc pas éligibles. Du côté des APU, les séries de processeurs Ryzen AI Max, AI 400 et AI 300 sont de la partie.

Comme l’écrit AMD dans son communiqué français, « pour commencer à exploiter l’IA localement sous Windows, il fallait jusqu’à présent jongler entre les pilotes, les environnements Python et les dépendances des frameworks ». Le pack Adrenalin AI « change la donne en configurant automatiquement votre système AMD avec les outils d’IA essentiels » — qualificatif attribué aux cinq solutions précitées. Précisons que les deux autres items des sept de cet AI Bundle sont Python et VSCode.

Nous aurions aimé y jeter un œil pour vous, mais c’était sans compter sur notre infirme Radeon RX 7600. Faute de mieux, vous trouverez donc un test assez complet chez TPU. Pour aller directement à la conclusion, notre confrère souligne l’effort d’AMD visant à rendre l’écosystème IA plus accessible, bien qu’avec un certain retard face à NVIDIA.

Parmi les points forts de cet AI Bundle relevés par TPU, l’un a déjà été mentionné par AMD ci-dessus : il s’agit d’un moyen simple de s’essayer à l’IA en local, directement sur sa propre machine, sans dépendre du cloud et de ses inconvénients.

Notre confrère W1zzard relève aussi les bénéfices de la mémoire unifiée pour les APU, avec le triptyque CPU / GPU / NPU partageant un même pool mémoire. Selon lui, cette spécificité permet de contourner en partie les limites de VRAM des GPU dédiés. Il a ainsi pu « charger un modèle OpenAI massif de 120 milliards de paramètres sur un ordinateur portable Strix Halo de 14 pouces, compact et léger ; une prouesse qui nécessiterait normalement des GPU d’entreprise extrêmement onéreux, dotés de 80 Go de VRAM ou plus ». Certes, les performances sont très inférieures, mais dans un contexte de développement et de tests préliminaires, la solution reste pertinente, d’autant plus au regard des coûts. Enfin, la sélection logicielle du bundle couvre un bon éventail de cas d’usage, avec un niveau d’ergonomie jugé satisfaisant.

Concernant les points négatifs, le choix de proposer cet AI Bundle au sein de l’installeur des pilotes graphiques est discutable. W1zzard y voit le moyen de toucher un maximum d’utilisateurs. D’autre part, la désinstallation des applications IA est décrite comme un véritable parcours du combattant. Enfin, il pointe également le cas de ComfyUI, jugé « mal intégré au système », sans pour autant détailler les raisons de cette critique.

Quoi qu’il en soit, si votre configuration vous le permet, libre à vous d’essayer. Toutes les infos sur le site d'AMD.