Une nouveauté aussi majeure qu’inaperçue a été introduite dans iOS 17 : l’officialisation du premier LLM de Apple !
Auteur / Autrice :
Dans iOS 17, Apple ajoute une discrète fonction d’intelligence artificielle
C’est peu de dire que l’iPhone 15 n’a pas déclenché une vague d’enthousiasme sans précédent. En fait, le dernier iPhone n’intéresse plus personne en tant que phénomène. Ce qui est logique, alors que l’appareil initial approche gentiment de la vingtaine d’année, et d’un nombre de déclinaisons similaire.
L’iPhone 15 a néanmoins comme vocation d’être la déclinaison annuelle nécessaire, de porter une troisième (et dernière ?) fois le design introduit en 2020 avec la gamme 12 et d’y introduire l’USB-C, et d’accompagner la mise à jour logicielle (annuelle également), iOS17.
iOS17 n’apporte d’ailleurs pas beaucoup plus de nouveautés côté software que n’en apporte l’iPhone 15 côté hardware. Cependant, au moment de regarder le détail des nouveautés en question, une petite ligne très discrète m’a sauté aux yeux.
Dans la rubrique “Clavier”, le premier point explique que « la précision de la correction automatique a été améliorée » grâce à « un puissant modèle de langue basé sur la transformation ».
Un premier LLM officialisé, basé sur la technologie Transformer
Un « modèle de langue », c’est l’une des traductions françaises de la terminologie bien connue « LLM » : Large Langage Model. Même si l’absence de la notion de taille (« Large »), remplacée par l’adjectif « Puissant », peut sembler une nuance, on n’aura aucun mal à deviner que Apple entraîne ses propres modèles sur des bases de plusieurs milliards de paramètres (les premiers LLM LLaMA de Meta de faisaient 7, 13, 33 et 65 milliards de paramètres (voir notre article)).
Et si on avait un doute, quand Apple explique que celui-ci est basé « sur la transformation », on ne peut plus en avoir. Car la « Transformation » citée par Apple, c’est le T de la technologie GPT qui équipe ChatGPT de OpenAI, par exemple. GPT voulant dire en anglais : Generative Pre-trained Transformer.
Transformeur est un modèle de Deepl Learning qui a révolutionné le développement de technologies d’intelligence artificielle, en permettant de paralléliser les tâches. Dans un article très intéressant de Wired sur l’histoire de OpenAI et ses différentes visions et volonté sur l’avenir, un paragraphe résume très bien l’importance de la découverte de la technologie Transformer, et de la publication « Attention is all you need » dont elle est issue :
« Et puis la chance a souri à l’OpenAI.
Au début de l’année 2017, un document de recherche non annoncé a été publié, coécrit par huit chercheurs de Google. Son titre officiel était « Attention Is All You Need » mais il a fini par être connu sous le nom d’« article sur les transformateurs », ainsi nommé à la fois pour refléter la nature révolutionnaire de l’idée et pour honorer les jouets qui se sont transformés de camions en robots géants.
Les transformateurs ont permis à un réseau neuronal de comprendre et de générer du langage de manière beaucoup plus efficace. Pour ce faire, ils ont analysé des morceaux de prose en parallèle et déterminé quels éléments méritaient une “attention”. Cela a permis d’optimiser considérablement le processus de génération d’un texte cohérent en réponse à des messages-guides. Par la suite, on s’est rendu compte que la même technique permettait également de générer des images et même des vidéos.
Bien que le papier transformateur soit devenu le catalyseur de la frénésie en matière d’IA à l’époque, Ilya Sutskever était l’une des rares personnes à avoir compris la puissance de cette avancée. “Le véritable déclic s’est produit lorsqu’Ilya a vu le transformateur sortir”, raconte Greg Brockman. Il s’est dit : “C’est ce que nous attendions.” »
On ne sait pour le moment pas comment est produit et construit ce premier modèle de langue basé sur Transformer officialisé par Apple, mais on sait donc que cette première IA textuelle de l’entreprise est utilisée pour… la correction automatique.
Comme souvent (voir notre article sur les outils Personal Voice et Live Speech), Apple introduit ou utilise une technologie de pointe non pour son effet Wahou et le buzz autour de son nom (ici, « intelligence artificielle » ou « LLM »), mais pour son usage réel.
Maintenant, on a hâte de voir ce que la technologie LLM pourra apporter à Siri !
