Ce livre d’environ 400 pages d’un éminent professeur d’Oxford est une thèse qui présente l’émergence d’une super intelligence sous la forme d’une Intelligence Artificielle qui prendra le contrôle inévitablement sur l’humanité. Compte tenu des progrès exponentielles des ressources computationnelles (Hardware, Internet) Elle part du postulat qu’un ordinateur calcule bien plus vite (proche de la vitesse de la lumière) que ne l’est le débit de transmission entre les neurones d’un cerveau humain.
La Super Intelligence pourra par exemple s’appuyer sur l’énorme patrimoine informationnel en ligne pour assoir sa domination. Si les premiers chapitres font l’état de beaucoup de concepts propres à l’apprentissage machine ou à l’apprentissage profond tels que la rétropropagation des gradients, les modules de markov cachés utilisés par nos assistants vocaux tels que Siri et Alexa ou encore les classifieurs bayésiens naïfs, la progression exponentielle des capacités du hardware et de nos connaissances sur la cognition nous permettra d’émuler dans un premier temps grâce à un ordinateur le cerveau humain et son fonctionnement. Première étape transitoire à la réalisation d’une machine super intelligente qui une fois développé cherchera à assurer sa survie.
Si les conjectures sont parfois délirantes (colonisation et prise de possession de toutes les ressources terrestres et spatiales par cette nouvelle entité), elles ne sont pas farfelues pour autant.
Une fois que la super intelligence sera créée, elle apprendra plus vite que n’importe quel être humain ou autre machine et même dans un scénario multipolaire dans lequel d’autres travaux seraient entrepris sur d’autres continents pour parvenir à cette fin, l’avantage décisif pris par la première qui émergera fait qu’elle s’imposera sûrement comme un singleton : Elle cherchera à être la seule. On comprend mieux la multiplication des financements par les Etats-Unis et la Chine dans le domaine de l’IA.
Vient alors une très grande partie sur la façon dont on pourrait réduire ce risque en régulant la super intelligence par des mécanismes de contrôles (confinement, pièges) ou l’implémentation de valeurs. Pour autant l’auteur est assez pessimiste sur nos chances de réussite de par la complexité pour des informaticiens d’inculquer un sens moral adéquat à la machine pour la préservation de l’humanité mais aussi car en tant qu’entité super intelligente elle chercherait par nature à y échapper.
Je recommande vivement ce livre à tous ceux qui s’intéressent de loin ou de près à l’intelligence artificielle. La multiplicité des concepts évoqués sont très bien résumés en fin de chaque chapitre. Il a le mérite de poser de nombreuses questions au moins au niveau éthique.
Et si ces recherches plutôt que d’être portées par des intérêts étatiques étaient plutôt réservés à des organisations supranationales telles que l’ONU dont le but est de régler les conflits et préserver la paix dans le monde ? La question a le mérite d’être posée.