COMPTOIR
register

Et un accélérateur de machine learning de plus chez Intel, le Neural Compute Stick 2

Qui se souvient de l'Intel Movidius ? Personne ? Allez, un petit effort (ou l'encadré recherche pour les plus fainéants...), c'était en juillet 2017, Intel sortait son premier accélérateur pour machine learning, issu du rachat de la société éponyme.

 

intel neural compute stick 2 usb

 

Aujourd'hui, c'est de la seconde itération dont il est question. Quels éléments ont évolués ? On conserve la connexion en USB 3.0 Type-A, le support des OS version fenêtre ou pingouin en 64-bit, avec une accélération possible de deux frameworks bien connus : TensorFlow et Caffe. Ne sachant que très peu de caractéristiques au niveau de la puce utilisée, nous nous focaliserons des performances, avec un gain maximum de 8x sur des tâches de reconnaissance d'images. Notez tout de même que ce Vision Processing Unit est sans surprise une version modifiée du Myriad X (contre le Myriad 2 pour son prédécesseur) rien d'extraordinaire jusque là, dotée de 2,5 Mo de mémoire embarquée et possédant 16 cœurs de calcul (contre 12 auparavant) appelés SHAVE, ainsi qu'une partie d'accélération de réseau de neurones spécialement dédiée à l'inférence.

 

intel neural compute stick 2

Pas beaucoup de signification, tous ces acronymes

 

Disponible à l'achat dès aujourd'hui pour un prix de 90 livres TTC chez nos voisins anglais avec une livraison prévue aux alentours du 21, le module n'est pas donné (du moins par rapport à sa taille !). Cependant, le tarif reste tout à fait abordable pour des équipes de recherche ou des start-ups souhaitant se lancer dans l'IA, et c'est probablement sur cette clientèle que compte le géant bleu.

 

Un poil avant ?

Test • AMD Radeon RX 590

Un peu plus tard ...

Pénurie@Intel : plus c'est long, plus c'est bon ?

Les 8 ragots
Les ragots sont actuellement
ouverts à tous, c'est open bar !
par Un ragoteur qui aime les en Île-de-France, le Vendredi 16 Novembre 2018 à 10h38  
par iarwain le Vendredi 16 Novembre 2018 à 08h08
Je ne connais rien du tout au sujet, mais cela m'étonne qu'un petit truc comme cela puisse apporter quelque chose comparé à la puissance de calcul d'un ordi classique.
Tout est dans le "concept" d'accélérateur: on spécialise à fond une partie du circuit. Par exemple: un film full HD en H264 a tué mon Pentium 4 à 3.2GHz, alors que ca passe crème sur un Raspberry Pi avec un petit ARM à moins de 1GHz...
par Un ragoteur qui aime les en Île-de-France, le Vendredi 16 Novembre 2018 à 10h31  
par Nicolas D. le Jeudi 15 Novembre 2018 à 18h51
Parce que les applications de CV c'est souvent avec du deep learning, je reste dubitatif sur des unités type GPU/accélération de traitement d'image plus l'accélération du machine learning
En fait, il s'agit d'accélérateurs dédiés pour les algorithmes de Computer Vision "classiques" ou pré-traitements de type flot optique, cartes de profondeur stereo, etc. Il y a une vingtaine d'accélérateurs dédiés pour ce type de traitement, hors "deep learning". Il y a aussi des accélérateurs deep learning dédiés pour les couches communes (convolutions, etc). Les processeurs "DSP" SHAVE sont là pour traiter des aspects irréguliers ou des couches customs des réseaux de neurones qui sont déjà présents ou qui pourraient arriver (et donc pas accélérables matériellement). La partie RISC serait plutôt du processeur LEON à jeu d'instruction SPARC (et pas RISC-V).

On voit même sur la video suivante qu'ils font la distinction entre "imaging accelerators" et "vision accelerators":
https://youtu.be/2-vc2SQuSvA
par iarwain, le Vendredi 16 Novembre 2018 à 08h08  
Je ne connais rien du tout au sujet, mais cela m'étonne qu'un petit truc comme cela puisse apporter quelque chose comparé à la puissance de calcul d'un ordi classique.
par Nicolas D., le Jeudi 15 Novembre 2018 à 18h51  
par castor-tout-nu le Jeudi 15 Novembre 2018 à 18h44
Ils disent dans la vidéo de présentation que ça permet d'accélérer les applications CV
"Intel is making developping computer vision and AI inference applications for EDGE and IOT devices easier than ever"
https://www.youtube.com/watch?time_continue=1&v=7DzJBIEFPeY
Parce que les applications de CV c'est souvent avec du deep learning, je reste dubitatif sur des unités type GPU/accélération de traitement d'image plus l'accélération du machine learning
par castor-tout-nu, le Jeudi 15 Novembre 2018 à 18h44  
par Nicolas D. le Jeudi 15 Novembre 2018 à 18h08
J'ai hésité à mettre ceux-là, mais il m'est apparu que ce schéma provient d'un revendeur (que je n'ai pas vu sur la page de présentation). Ce qui signifie que rien ne garantie que des unités de Computer Vision soit, en fait, présent dans la puce . Je me demande d'ailleurs si le RISC est un dérivé de RISC-V ? Il faudrait voir si la licence l'autorise, mais c'est possible vu qu'il y en a dans certaines cartes NVIDIA.
Il fonctionne au poil !
Ils disent dans la vidéo de présentation que ça permet d'accélérer les applications CV
"Intel is making developping computer vision and AI inference applications for EDGE and IOT devices easier than ever"
https://www.youtube.com/watch?time_continue=1&v=7DzJBIEFPeY
par Nicolas D., le Jeudi 15 Novembre 2018 à 18h08  
par Un champion du monde en Île-de-France le Jeudi 15 Novembre 2018 à 15h26
Pour les acronymes de l'image que je connais :
* CV : Compute Vision (je pense des accélérateurs matériels pour openCV).
* RT RISC : Real-Time Reduced Instruction Set Computer (Processeur temps réel à jeu d'instruction réduit).
* VLIW : Very Long Instruction Word (instruction utilisée dans les DSP (Digital Signal Processing) pour faire des instructions en parallèle).
J'ai hésité à mettre ceux-là, mais il m'est apparu que ce schéma provient d'un revendeur (que je n'ai pas vu sur la page de présentation). Ce qui signifie que rien ne garantie que des unités de Computer Vision soit, en fait, présent dans la puce . Je me demande d'ailleurs si le RISC est un dérivé de RISC-V ? Il faudrait voir si la licence l'autorise, mais c'est possible vu qu'il y en a dans certaines cartes NVIDIA.
par Un ragoteur qui draille en Nouvelle-Aquitaine le Jeudi 15 Novembre 2018 à 17h40
En fait c'est un rasoir Ginette ?
Il fonctionne au poil !
par Un ragoteur qui draille en Nouvelle-Aquitaine, le Jeudi 15 Novembre 2018 à 17h40  
 
possédant 16 cœurs de calcul (contre 12 auparavant) appelés SHAVE
En fait c'est un rasoir Ginette ?
par Un champion du monde en Île-de-France, le Jeudi 15 Novembre 2018 à 15h26  
Pour les acronymes de l'image que je connais :
* CV : Compute Vision (je pense des accélérateurs matériels pour openCV).
* RT RISC : Real-Time Reduced Instruction Set Computer (Processeur temps réel à jeu d'instruction réduit).
* VLIW : Very Long Instruction Word (instruction utilisée dans les DSP (Digital Signal Processing) pour faire des instructions en parallèle).