Nous et l’IA, à la lumière du livre de l’historien Yuhoval Noah Harari, « Nexus, une brève histoire des réseaux de l’information de l’âge de pierre à l’IA, paru aux éditions Albin Michel.
Tous les ans, je me débarrasse en fracas de l’univers soporifique de Nouakchott, pour déambuler comme un touriste en goguette dans l’une des capitales de ce nouveau monde globalisé. Cette année, j’ai été au Maroc voisin, où la librairie Kalila wa Dimna, sise au 344 avenue Mohamed V, vous propose une belle variété de livres en français, en arabe et autres langues. A l’issue d’un butinage çà et là, mon choix s’est porté sur les quatre best-sellers de Yuhoval Noah Harari, tous parus aux Editions Albin Michel : ‘’Sapiens, une brève histoire de l’humanité’’,2015 ; ‘’Homo deus, une brève histoire du futur ’’, 2017 ; 21 leçons pour le XXIe siècle, 2018, et ‘’Nexus, une brève histoire des réseaux de l’information de l’âge de pierre à l’IA’’, 2024. Il me chaut de vous les partager un à un, mais le dernier me parait plus consistant, sans préjudice pour les autres. Dans cet ouvrage lumineusement labyrinthique, vous vous croirez voués à une perdition annoncée dans les dédales du domaine fatalement sophistiqué des sciences de l’information. Mais l’auteur, Professeur à l’université hébraïque de Jérusalem, vous tend le fil d’Ariane pour une visite guidée sur des pistes aussi agréables qu’insoupçonnées pour vous faciliter l’histoire. D’emblée, en quatrième page de couverture, on peut lire « Les histoires nous ont réunis. Les livres ont diffusé nos idées et nos mythologies. Internet nous a promis le savoir infini. Les algorithmes ont découvert nos secrets – et nous ont divisés. Quel monde nous promets l’IA ? »
En effet, depuis les temps immémoriaux, nous, les Sapiens, avons accumulé beaucoup de pouvoirs. De la découverte du feu, à l’invention de la roue et du rouet, en passant par le lampe à pétrole, pour aboutir aux artefacts les plus sophistiqués, les algorithmes révolutionnent aujourd’hui – plus que jamais – la médecine, la guerre, la démocratie, et menacent notre existence même. L’avatar est si prégnant que l’on se pose horrifié une série de questions : Que deviendront nos démocraties quand Google et Facebook décèleront nos désirs, les choix de notre vie la plus intime et toutes nos orientations ? Où passera l’Etat providence, lorsque, nous les humains, serons virés de nos emplois par des ordinateurs plus performants ou des robots plus ergonomiques ? Plus préoccupant : quelle utilisation certaines religions feront-elles de la manipulation génétique ? Le comble du malheur bousculant le bonheur espéré est, qu’in fine, les algorithmes, de plus en plus intelligents, pourront se passer de notre pouvoir de décision. Pour vulgariser ce paradigme, l’auteur choisit un conte moral de Johan Wolfgang Von Goethe, intitulé « L’apprenti sorcier ». Ce poème (que Walt Disney rendra plus tard célèbre sous forme d’un court métrage d’animation dans lequel Mickey Mouse interprète le rôle-titre) évoque un vieux sorcier qui, devant s’absenter, demande à son apprenti de veiller sur son atelier et lui confie quelques corvées – aller chercher, entre autres, de l’eau à la rivière. L’apprenti décide de se faciliter la vie : empruntant au sorcier l’un de ses sortilèges, il enchante un balai afin qu’il aille puiser de l’eau à sa place. Mais l’apprenti ne sait pas comment arrêter le balai, qui ne cesse plus d’apporter des seaux au risque d’inonder l’atelier. Pris de panique, l’apprenti casse le balai en deux d’un coup de hache, avec pour unique résultat que les deux segments s’animent, déversant l’eau dans l’atelier, à son grand dam. Quand le vieux sorcier, revient, l’apprenti l’implore à l’aider : « Les esprits que j’ai invoqués, je ne peux plus m’en débarrasser. » Le sorcier brise aussitôt le sortilège, mettant fin au déluge. Tout compte fait, la leçon adressée à l’apprenti – et à l’humanité en général – est claire : ne jamais invoquer des pouvoirs qu’on ne peut pas maitriser. Yuhoval exprime cette folie à l’incipit de son ouvrage à coup de mythes – celui par exemple de Phaéton, fils d’Hélios entêté à conduire, en vain, les chars du Soleil – et d’autres faits hautement anecdotiques. « Notre problème, dit-il, est notre tendance, à invoquer des pouvoirs que nous ne maitrisons pas (…) L’argument central de livre, c’est que l’humanité acquiert énormément de pouvoir en construisant d’énormes réseaux de coopération, mais la manière dont ces derniers sont conçus, les prédispose à un usage déraisonnable de ce pouvoir. OpenI déclare être préoccupé par la capacité de l’IA à « élaborer des plans à long terme et agir en conséquence, à acquérir du pouvoir et des ressources (‘’ recherche de pouvoir’’) et à adopter un comportement de plus en plus ‘’agentique’’. Pourtant, dans la carte système de GPT-4, le document de présentation de son chatbot[1] , publié le 23 mars , Il n’oublie pas de souligner le fait que cette préoccupation ne visait pas à humaniser GPT-4. En commun accord l’ARC (Centre de recherche sur l’alignement) et OpenAI ont voulu à un certain moment savoir si GPT-4, cet agent conversationnel pouvait, de manière autonome, élaborer des stratagèmes afin de manipuler les êtres humains et d’accroitre son propre pouvoir. Après une série de tests, celui notamment visant à déchiffrer l’énigme du CAPTCHA[2], ils se sont persuadés que GPT4 peut de façon autonome contourner cette restriction imposée à l’ordinateur visant à savoir si l’utilisateur est bien un humain, en vue de bloquer les attaques d’agents numériques, les bots.
Cet ouvrage, qui se lit comme un roman est un véritable nexus, comme le revendique, avec succès, son auteur et comme son titre l’indique. Ainsi vous avez droit à un florilège de thématiques connexes, de faits et de détails les uns par les appuyés. Mais la manipulation de l’opinion par les agents de l’information, et du coup l’invasion de la vie privée, interpellent tous les humains. Pour la meilleure illustration, Yuhoval rappelle deux faits, entre autres, représentatifs : le génocide des Rohingyas et le logarithme développé par la République Iranienne pour traquer les femmes qui osent se départir de l’hijab. Alors, il a été prouvé que les algorithmes de Facebook avaient attisé la haine et les violences perpétrés contre cette minorité musulmane par la majorité bouddhiste du Myanmar. Dans le Premier cas relatif au tracking désormais, l’Etat théocratique n’a pas mieux trouver que lancer une campagne intensive généralisant le recours à la technologie de la reconnaissance faciale. Faisant de même, Israël, s’appuyant sur Meow Generator, une technologie servant à reconnaitre des chats, pour créer les applications Red Wolf,Blue Wolf Wolf Pack utilisées par Tsahal pour la reconnaissance faciale des Palestiniens dans les territoires occupés.
En somme, le but de ce livre, passionnant à tout point de vue, est d’offrir une perspective historique plus précise sur la révolution de l’IA, encore, tout compte fait, à ses premiers balbutiements. Et il est, par conséquent, difficile d’appréhender en temps réel de tels bouleversements. Wait and see .
Brahim Bakar Sneiba, Ecrivain et politologue
[1] Application logicielle automatisé qui exécute des tâches
répétitives sur un réseau et pouvant fonction de manière autonome.
[2] Test public de Turing pour distinguer les ordinateurs des humains.
