Voici un livre qui vient de paraître et qui met en perspective beaucoup de choses face à l’engouement suscité depuis 2 années par les IA Génératives, je veux parler notamment de ces LLM pour Large Language Modèles qui sont proposés via les interfaces et produits d’Open AI, Google, Anthropic, Facebook, tels que Chat GPT, Claude, LLAMA.
Il y’a quelques temps je regardais une interview de Yann Lecun autre éminent chercheur en IA de la R&D de Facebook dont j’ai lu certains livres qui disait « I am not interested in LLM anymore ». En effet, à la lecture de ce livre de Luc Julia, co-créateur de votre agent conversationnel Siri sur vos IPHONE, on comprend mieux son propos.
En effet, Luc Julia docteur en Informatique franco-américain passé par le MIT et le CNRS entre autres (biographie ici) déconstruit le mythe selon lequel on verrait en ces IA un moyen de parvenir à l’AGI, l’intelligence artificielle générale qui se substituerait à nous les êtres humains.
Le livre commence par la genèse de ce syntagme trompeur « intelligence artificielle » en 1956 au séminaire scientifique de Darmouth dont je vous ai déjà parlé dans mon article sur les sciences cognitives et cite leurs grands frères : les Système Expert : IA en vogue dans les années 1970.
Il s’agit tout simplement pour nous humains d’Intelligence augmentée et nous assistons tout simplement à un effet d’échelle.
Concrètement ce qui n’était pas possible il y’a encore quelques années pour des raisons technologiques (Transformers (le T de GPT) développé par DeepMind (Google), logistiques (Big Data (GAFAM) et techniques (puissance de calcul(NVIDIA)) fais partie d’une évolution logique. Internet s’est démocratisé, les GAMMA comme les appelle le Dr. Julia et OPEN AI dont le capital appartient à 49% à Microsoft depuis peu ont pu en accumulant des profits gigantesques développer leurs infrastructures, (Data Center, CPU, GPU) pour entrainer leurs modèles sur toujours plus de données stockées sur Internet et leurs serveurs (Cloud, Réseaux Sociaux, Presse…) pas toujours obtenues légalement d’ailleurs…
Sachez que ces IA Génératives ne sont rien sans le prompt, les LLM sont conçus pour deviner votre prochain mot (système de token). Le Docteur Julia explique que ces IA ne sont pas intelligentes, et ne sont pas créatives, elles sont un outil nouveau qu’il va falloir maîtriser avec lequel on va devoir s’adapter pour améliorer notre productivité. D’autre part il démystifie aussi l’idée comme quoi les LLM et le Deep Learning statistique sont des boites noires, en effet leurs Créateur et le terme est important dans le livre savent très bien comment elles fonctionnent.
Maintenant qu’on a dit ça, le point le plus intéressant du livre est toute sa dimension éthique et écologique. En effet on apprend la puissance de calcul et donc électrique pour entrainer un modèle mais aussi que lorsque CHAT GPT génère 100 mots à la suite d’une requête, 4 à 5 litres d’eau douce et propre sont consommées pour refroidir les GPU des Datacenter. Ainsi Dr. Julia ne voit aucun avenir pour ces technologies sur le long terme et tous ces investissements massifs (plan STARGATE 600 milliards pour les américains) (109 milliards pour la France) posent question.
Je comprends mieux à titre personnel pourquoi je vois des personnes comme Jean Marc Jancovici s’agacer de tous ces investissements quand il est obligé de faire du crowdfunding pour son projet de décarbonation du pays. (The Shift Project)
En résumé Luc Julia pense que la solution et de développer des IA spécialisées(RAG-Fine Tuning) dans les entreprises, moins couteuses (frugalité) plus performantes pour une tâche donnée que ces IA Génératives et généralistes accessibles au grand public nouvelle invention des GAFAM pour accentuer leurs pouvoir et emprise sur les citoyens.
Je vous recommande vivement l’achat de cet ouvrage qui vient de paraître et dont je n’ai abordé que quelques points parmi tant d’autres qui me semblaient importants.