En travaillant avec AMD et en débauchant massivement chez Graphcore, les deux géants de la Cerebral Valley intensifient leurs recherches de puissance de calcul.
Auteur / Autrice :
L’intelligence artificielle pourrait bien demander des puissances de calcul à la fois massives, et spécifiques. Le traitement des grands volumes de données, mais surtout la recherche d’une production de résultats instantanés semble imposer un effort sur cet axe aux géants du secteur.
En effet, dans un monde où l’attente et l’ennuie ont disparu, aucun service ne peut se permettre de faire patienter ses utilisateurs plus de quelques secondes.
C’est donc pour Microsoft et Meta, mais aussi d’autres (Alphabet par exemple) une question cruciale que de pouvoir compter dans un avenir proche sur les meilleurs configurations techniques du marché. Et donc les meilleures puces électroniques.
Des puces pensées pour l’intelligence artificielle, et développées pour des usages spécifiques, avec des fonctionnement adaptées… et des optimisation des ressources. Le coût énergétique financier de l’IA n’est pas un problème pris à la légère par les colosses de la Cerebral Valley.
Microsoft travaille avec AMD sur le projet Athena
Le 4 mai 2023, Reuters et Bloomberg rapportaient que Microsoft travaille désormais de manière étroite avec le californien AMD (Advanced Micro Devices Inc) autour de l’expansion du fabricant de puces dans les processeurs d’intelligence artificielle. Et cette collaboration aurait un nom : le projet Athena.
Un nom, mais aussi des effectifs : Plusieurs centaines d’employés travaillant dans une division silicium de Microsoft travaillent actuellement sur ce projet Athena avec AMD.
Deux jours plus tôt, le mardi 2 mai, Lisa Su, la directrice générale d’AMD avait expliqué que l’intelligence artificielle était “la priorité stratégique numéro un” de l’entreprise.
AMD souhaite sortir d’ici la fin 2023 un concurrent crédible au H100 (80 milliards de transistors) de Nvidia, le voisin et concurrent de Santa Clara, dont les avancées dans le domaine de l’IA sont particulièrement bluffantes. Comme par exemple sa technologie d’animation vidéo par IA présentée courant avril (voir notre article).
En travaillant ensemble, Microsoft et AMD aimeraient réussir à développer de nouvelles puces, qu’elles soient communes, ou propriétaires.
Meta et une équipe de Graphcore
Et ce 5 mai, c’est de Reuters qu’on apprend que Meta “a embauché une équipe basée à Oslo qui, jusqu’à la fin de l’année dernière, développait une technologie de réseau d’intelligence artificielle chez la puce britannique Graphcore.”
Reuters avait directement identifié sur Linkedin 10 personnes ayant travaillé chez Graphcore jusqu’à fin 2022/début 2023, avant de rejoindre Meta. Ce qu’a confirmé à l’agence Jon Carvill, un porte-parole de Meta :
“Nous avons récemment accueilli un certain nombre d’ingénieurs hautement spécialisés à Oslo dans notre équipe d’infrastructure chez Meta. Ils apportent une expertise approfondie dans la conception et le développement de systèmes de supercalcul pour prendre en charge l’IA et l’apprentissage automatique à grande échelle dans les centres de données de Meta.”
Graphcore avait fermé son bureau d’Oslo, en Norvège, dans le cadre d’une restructuration plus large annoncée en octobre 2022, alors que l’entreprise anglaise se bat… contre Nvidia et AMD.
Depuis plusieurs semaines, Meta est à l’avant garde des projets innovants de l’intelligence artificielle. Si l’entreprise ne se bat pas (encore) directement avec OpenAI et son ChatGPT, sa base LLaMA est le socle le plus utilisé de l’écosystème des LLM open source.
Au point qu’un leak massif en provenance de chez Google (voir notre très long article dédié) plaçait l’entreprise en “grand gagnant” de l’effervescence actuelle qui entoure les IA génératives textuelles open source. Pire, le rédacteur anonyme de ce texte prônait pour une ouverture totale au monde de l’open source, face à son inexorable montée en puissance, plutôt que de se battre dans un écosystème fermé amené à échouer.
Mais plus concrètement, à court terme, Meta, qui possède Facebook et Instagram, utilise massivement l’IA pour optimiser ses flux de contenus, et la publicité qui y est insérée. Une méthode qui marche, puisque le temps passé sur Instagram a progressé ces derniers mois, générant de bons résultats financiers au premier trimestre 2023.
