Le SOT-MRAM de laboratoire écrit en 2 nanosecondes pour l’IA en périphérie
Chaque opération d’écriture a pris 2 nanosecondes. Elle consomme 2 picojoules d’énergie. À l’Université du Texas à Austin, des ingénieurs travaillant avec Taiwan Semiconductor Manufacturing Company (TSMC) ont fabriqué et testé du SOT-MRAM, une mémoire magnétique qui conserve ses informations même lorsque l’alimentation est coupée.
L’équipe a soumis les puces à des tâches d’inférence de réseaux neuronaux, d’entraînement de réseaux neuronaux binaires et de modélisation de graphes probabilistes. Le SOT-MRAM utilise des propriétés magnétiques, et les chercheurs ont conçu leur système autour de sa capacité à ne stocker que deux états — 0 et 1 — tout en conservant une précision suffisante pour ces tâches d’IA. Le résultat est une technologie de mémoire qui, selon les chercheurs, combine rapidité, moindre consommation d’énergie et endurance.
Cette efficacité compte au-delà de la puce. L’IA et les centres de données qui la prennent en charge alimentent la demande énergétique au Texas et dans le monde entier ; le Texas devrait devenir la capitale américaine des centres de données dans les prochaines années, avec une possible multiplication par 5 de la consommation énergétique dans tout l’État. Une mémoire plus efficace pourrait réduire l’énergie utilisée par le matériel d’IA, tandis que le traitement local pourrait limiter la quantité de travail devant être transférée vers ces centres de données.
Qu’est-ce qui change en pratique ? Les capteurs et autres appareils en périphérie soumis à des contraintes strictes en matière d’alimentation et de mémoire pourraient à terme prendre eux-mêmes des décisions rapides et suffisamment précises. Les chercheurs prennent l’exemple d’une main robotique détectant la chaleur : une IA locale pourrait la faire bouger sans envoyer le signal neuronal vers le cloud, tandis qu’un centre de données équipé de GPU pourrait traiter les cas nécessitant une très grande précision.
Les chercheurs prévoient d’affiner les caractéristiques qui confèrent aux puces leur rapidité et leur efficacité, ainsi que de réduire les variations entre les appareils, car ces variations peuvent diminuer la précision des réseaux neuronaux.
Sources — lire les originaux(heure de Paris)
À lire ensuite
- Les ingénieurs de l’UMass Amherst réduisent de 90 % les ressources nécessaires à l’IA en périphérie lors d’un test linguistique en laboratoire
- En labo, le tunnel à oxygène de KAIST stabilise la mémoire 3D
- NVIDIA : Jetson Orin Nano 2 double l’inférence IA en périphérie
- Le neurone de KAIST utilise le bruit d’un memristor pour basculer entre signaux vocaux et signaux d’activité humaine
Commentaires
Chargement du fil…
Connectez-vous pour écrire un commentaire. Se connecter