Ces dernières années, la demande en puissance de calcul de l'IA a explosé, les composants GPU se font rares et l'inquiétude liée à la consommation d'énergie est devenue une préoccupation cachée du secteur. Cependant, l'équipe de Cambridge de Microsoft Research a choisi de redéfinir l'informatique grâce à la lumière. Ce système est appeléOrdinateur optique analogique Le système d'ordinateur optique analogique (AOC) est assemblé à partir de pièces disponibles dans le commerce telles que des capteurs d'appareil photo de téléphone portable, des micro-LED, des objectifs, etc., mais dans des expériences, il a montré que la vitesse et l'efficacité énergétique sont 100 fois supérieures à celles des GPU, et il a atterri avec succès surNature Magazine.
L'informatique optique revient sur le devant de la scène
Le concept d'informatique optique a été proposé dès les années 1960, mais en raison des limitations persistantes des technologies de fabrication, il est resté théorique. Après quatre années de recherche et développement, l'équipe Microsoft a intégré des circuits optiques et analogiques en un seul circuit, réalisant des opérations matricielles utilisant la lumière et gérant électroniquement les non-linéarités, les additions et les soustractions. Chaque itération ne prend que 20 nanosecondes pour converger vers une solution à virgule fixe.
Cette architecture élimine non seulement le besoin d'une conversion numérique-analogique coûteuse, mais possède également une immunité au bruit inhérente, permettant au calcul optique de fonctionner de manière stable sur du matériel réel pour la première fois.
Nos travaux révolutionnaires sur un ordinateur optique analogique ouvrent la voie à de nouvelles façons de résoudre des problèmes complexes du monde réel avec une efficacité bien supérieure. Nous sommes ravis de voir ces travaux publiés aujourd'hui dans @La nature. https://t.co/vjx8lYmze5
- Satya Nadella (@satyanadella) 3 septembre
Vérification pratique financière et médicale
Pour prouver qu’AOC n’est pas seulement un jouet de laboratoire, l’équipe Microsoft a sélectionné deux scénarios majeurs, la finance et la santé, pour vérification.
Dans un problème d'optimisation de règlement résolu en collaboration avec la banque Barclays, AOC a trouvé la solution optimale en seulement sept itérations. Côté médical, l'imagerie compressée des résultats d'imagerie par résonance magnétique (IRM) a été transformée en un problème d'optimisation exécutable. Non seulement 7 × 32 coupes cérébrales ont été reconstruites, mais 32 20 variables de données IRM réelles ont été simulées grâce à une approche de « jumeau numérique ». Cela démontre le potentiel de réduction des temps d'examen de 30 à 5 minutes, allégeant ainsi considérablement la charge de travail des patients.
Une nouvelle voie pour l'IA
Les chercheurs ont également découvert que le mécanisme de recherche à virgule fixe d'AOC est parfaitement adapté aux modèles d'IA nécessitant une convergence itérative, tels que le Deep Equilibrium Network (DEQ). Sur les tâches de classification d'images et de régression non linéaire MNIST et Fashion-MNIST, AOC a obtenu une concordance proche de 99 % avec les résultats de simulation. De plus, grâce au multiplexage temporel, AOC a pu atteindre l'équivalent de 4096 XNUMX pondérations, démontrant ainsi sa capacité à exécuter non seulement des modèles de petite taille, mais aussi des modèles d'inférence d'IA plus importants.
Un écart d'efficacité énergétique de deux ordres de grandeur
Microsoft estime qu'une version mature d'AOC pourrait atteindre 500 TOPS par watt, dépassant largement les quelque 100 TOPS par watt du NVIDIA H4.5 actuel, ce qui représente un écart d'efficacité énergétique de deux ordres de grandeur. Si la modularisation est étendue à 0.1 à 20 millions de groupes de poids à l'avenir, AOC pourrait devenir la « nouvelle infrastructure » pour l'inférence IA basse consommation.
De l'expérience à la piste de course
À la tête de cette recherche, Francesca Parmigiani, directrice principale, Jiaqi Chu, chercheuse principale, et Jannes Gladrow, expert en apprentissage automatique, ont dirigé une équipe multidisciplinaire pour concrétiser un concept vieux d'un demi-siècle. Ils ont également cherché à mobiliser davantage de chercheurs en ouvrant le jumeau numérique. Hitesh Ballani, directeur de recherche, a déclaré que leur objectif était d'intégrer l'AOC à l'infrastructure future de l'IA.
