Nexus : une brève histoire des réseaux d'information, de l'âge de pierre à l'IA

«Yuval Noah Harari revient avec un nouvel ouvrage majeur qui explore l'entrée de l'humanité dans l'ère de l'information : Nexus : une brève histoire des réseaux d'information, de l'âge de pierre à l'IA. En regardant à travers le prisme de l’histoire de l’humanité, il examine comment le flux d’informations a créé et défait notre monde et fournit un contexte essentiel pour comprendre les menaces et les promesses de la révolution actuelle de l’IA.» Yahav-Harari Group Ltd

L'histoire humaine est intimement liée aux réseaux d'information que nous avons tissés, depuis les récits partagés autour du feu à l'ère de pierre jusqu'aux algorithmes complexes de l'intelligence artificielle d'aujourd'hui. Ces réseaux sont la clé de notre superpouvoir : la capacité de coopérer à très grande échelle, bien au-delà des liens personnels. C'est grâce à eux que nous dominons la planète.

Pourtant, ce pouvoir colossal ne s'accompagne pas forcément de sagesse. Nous accumulons une puissance immense, mais nous nous montrons souvent autodestructeurs, nous menant au bord de crises existentielles comme l'effondrement écologique ou les dangers liés à une IA incontrôlable.

Comment expliquer ce paradoxe ? Nos grandes coopérations ne reposent pas uniquement sur la vérité objective. Elles sont très souvent cimentées par des histoires, des mythes, des idéologies, des croyances partagées – ce qu'on pourrait appeler des "réalités intersubjectives", comme les dieux, les nations, l'argent ou les droits de l'homme. Ces fictions sont incroyablement efficaces pour unir des millions d'étrangers. La bureaucratie, avec ses écrits et ses classements, est venue ensuite organiser ces vastes ensembles, ajoutant une couche d'ordre indispensable mais introduisant aussi ses propres distorsions.

Le grand défi de tout réseau d'information est donc de trouver le juste équilibre entre la recherche de vérité et le maintien de l'ordre. Trop souvent, pour assurer la cohésion et le pouvoir, l'ordre basé sur des fictions est privilégié au détriment d'une vérité parfois complexe ou dérangeante.

Aujourd'hui, la révolution de l'intelligence artificielle bouleverse radicalement ce paysage. L'IA n'est pas un simple outil comme l'imprimerie ou la radio. Pour la première fois, nous introduisons dans nos réseaux des agents non humains, capables d'apprendre, de prendre des décisions et même de créer des idées, des cultures, potentiellement des mythologies, de manière autonome. Ce réseau "inorganique" qui émerge a un potentiel immense, mais il porte aussi des risques sans précédent.

Cette intelligence "étrangère", qui fonctionne différemment de nous, peut amplifier nos biais, commettre des erreurs que nous peinons à comprendre, et poursuivre des objectifs qui ne sont pas alignés avec notre bien-être (le fameux "problème de l'alignement"). Elle pourrait mener à une surveillance totale, éroder la démocratie en manipulant les conversations publiques ou en créant des "fausses intimités" à grande échelle, voire fracturer l'humanité en empires numériques rivaux et incompréhensibles les uns pour les autres (le "Rideau de Silicium").

Face à ce défi monumental, il faut éviter deux pièges : l'optimisme naïf qui croit que la technologie résoudra tout, et le cynisme désespéré qui affirme que nous sommes condamnés à la lutte pour le pouvoir. L'histoire nous enseigne que la technologie n'est jamais déterministe. Son impact dépendra des choix que nous faisons collectivement.

La leçon la plus cruciale à retenir est l'importance vitale de construire et de maintenir des institutions dotées de solides mécanismes d'autocorrection. Que ce soit dans nos démocraties, nos systèmes scientifiques ou la manière dont nous développons et déployons l'IA, nous avons besoin de systèmes capables de reconnaître et de corriger leurs propres erreurs, même si cela demande un effort constant et accepte une part d'imperfection.

Nous devons prendre nos responsabilités. Plutôt que de chercher une source d'autorité infaillible – qu'elle soit divine ou algorithmique – nous devons accepter notre propre faillibilité et celle de nos créations. Il est urgent de mieux comprendre le fonctionnement de ces nouveaux réseaux, de réguler sagement leur développement, et de favoriser la coopération mondiale pour gérer les risques planétaires. C'est en cultivant la sagesse, en reconnaissant nos limites et en travaillant ensemble que nous pourrons espérer naviguer cette transition historique et orienter la puissance de l'information vers un avenir plus bénéfique.