Résumé de « La vie 3.0. Être humain à l’ère de l’intelligence artificielle » de Max Tegmark : un ouvrage très documenté sur l’intelligence artificielle et des défis posés par ses développements par un des plus grands spécialistes en la matière ; préparez-vous à faire chauffer vos neurones !
Par Max Tegmark, 2024, 566 pages.
Titre original : « Life 3.0 : Being Human in the Age of Artificial Intelligence » (2017).
Chronique et résumé de « La vie 3.0. Être humain à l'ère de l'intelligence artificielle » de Max Tegmark
Préambule — La fable de l'Omega Team
Dans ce préambule, Max Tegmark raconte l'histoire fictive de "l'équipe Omega" et de leur IA superintelligente, Prométhée, soigneusement cachée de tous. Comment vont-ils s'en servir et comment évoluera-telle ? Telles sont les questions !
Premiers millions
Très vite, l'IA des ingénieurs de l'équipe Omega se perfectionne dans tous les domaines, au point de les dépasser en compétences.
Pour tester Prométhée, ils décident de lui faire faire des tâches simples sur le service d'Amazon Mechanical Turk (AMT). L'IA parvient à générer ainsi une somme déjà considérable d'argent que l'équipe Omega cherche à réinvestir.
Jeu dangereux
Mais comment ? Il faut en effet protéger et même "enchaîner" Prometheus pour qu'il ne s'échappe pas via Internet. Les ingénieurs doivent donc penser à des systèmes perfectionnés et à des produits qui ne font pas courir le risque d'une perte de contrôle de l'IA.
Ils doivent donc abandonner leurs premières idées : créer des programmes informatiques ou des jeux vidéos. Le risque d'ouvrir la "boîte de Pandore" serait trop grand.
Premiers milliards
L'équipe Omega décide finalement d'utiliser Prometheus afin de construire un empire du divertissement. L'IA génère des films grand public qui trouvent aisément leur audience et deviennent même des blockbusters.
Grâce à cette activité, l'équipe Omega parvient à générer une immense richesse. Mais elle ne s'arrête pas là. Elle crée une chaîne de séries télévisées qui entre en compétition avec Netflix ou Disney+ et finit par les dépasser…
Le tout en arrivant à cacher l'IA superintelligente aux yeux du monde !
Nouvelles technologies
Bien sûr, ils doivent diversifier les sources de revenus et créer des sociétés-écrans qui agissent au nom de Prometheus.
Peu à peu, de nombreuses entreprises et start up discrètement pilotées par l'équipe Omega voient le jour. Celles-ci proposent au monde des innovations sensationnelles qui sont rapidement adoptées par la population et les pouvoirs publics.
L'IA intervient dans tous les domaines, de la santé à l'éducation, en passant par l'exploitation forestière.
La prise du pouvoir
Le pouvoir public voit d'un bon œil ces investissements privés. Mais peu à peu, le contrôle des médias par l'équipe Oméga et Prometheus leur permet également de "hacker" la politique.
Progressivement, ils parviennent même à remodeler l'ordre politique mondial. Comment ? Grâce à une manipulation subtile des débats dans les médias nationaux et internationaux.
L'équipe Omega veut le bien de l'humanité. Elle parvient à "à éroder toutes les structures de pouvoir précédentes dans le monde" en désamorçant d'anciens conflits et en focalisant l'attention sur les grands enjeux de sécurité comme le changement climatique ou le désarmement nucléaire.
Consolidation
Au final, une Alliance est créée. Il s'agit d'un conglomérat privé qui prend peu à peu en charge toutes les prérogatives des États. Comme la grande majorité des gens sur Terre y trouve un bénéfice, ce pouvoir devient indiscuté.
Bien sûr, il y a des résistances, notamment du côté des plus puissants (dictateurs, grands patrons, etc.). Mais au vu des bienfaits apportés, la plupart des gens commencent à éprouver un sentiment de confiance et d'allégeance envers ce nouveau pouvoir.
Réflexion à partir de l'histoire
Dans l'ensemble, les résultats de la prise de contrôle secrète du monde par Prométhée sont donc bénéfiques, en particulier pour les plus démunis. Et pourtant… Max Tegmark demande si c'est bien le genre d'avenir que nous voulons.
Il nous met au défi de commencer à imaginer quel type d'avenir l'IA peut créer.
Est-ce une utopie ou une dystopie ?
Accepterions-nous de nous laisser guider par un pouvoir dont nous ne savons rien ?
Une IA si puissante devrait-elle être traitée comme un prisonnier ?
Etc.
Nous avons le pouvoir de nous poser ces questions et de décider du scénario que nous souhaitons voir advenir. Tout l'enjeu du livre est d'initier les lecteurs à la spéculation et à la réflexion éthique au sujet de ce que cela signifie qu'"être humain à l'ère de l'intelligence artificielle".
