Il y a 78 ans, on craignait déjà un totalitarisme algorithmique
À propos d'un article du père Dominique Dubarle et des thèses de Peter Thiel
Tournage du film dystopique ©Brazil de Terry Gilliam (1985)
Les craintes de l’entrepreneur et investisseur américain Peter Thiel à propos d’un “gouvernement mondial totalitaire”, qu’il qualifie d’Antéchrist, ont fait beaucoup parlé d’elles. À Rome, où Peter Thiel a donné une série de conférence, ces thèses ont suscité un accueil contrasté. Un théologien proche du Vatican y a par exemple vu une “hérésie contre le consensus libéral”.
À croire en tout cas le fondateur de PayPal et Palantir, un totalitarisme universel pourrait bientôt s’imposer en prenant “les traits de tous ceux qui cherchent à freiner le développement de la science au nom de la paix et de la sécurité”, résumait Corine Lesnes dans une chronique du Monde publiée en octobre dernier.
©The New York Time
Plus précisément, la thèse de Peter Thiel repose sur un triple constat (nous nous fondons ici sur un entretien qu’a donné l’entrepreneur-philosophe à Ross Douthat, pour le New York Time) :
1/ En Occident, en dehors du secteur de l'informatique, du logiciel et de l'intelligence artificielle, le progrès technologique s'est arrêté vers 1970 (on retrouve ici la thèse de son fameux Zero to One)
2/ Or, en période de stagnation, les institutions libérales deviennent instables
3/ C’est dans ce contexte qu’un Antéchrist moderne pourrait prendre le pouvoir en exploitant des peurs existentielles (guerre nucléaire, changement climatique, dérive de l'IA) et imposer un gouvernement mondial totalitaire et centralisé, qui figerait l'humanité dans une stagnation définitive, sous prétexte de la réguler.
(Pour creuser la thèse de Thiel, on se reportera avec profit sur sa publication sur le site de First Thing)
La thèse de Peter Thiel repose finalement sur l’idée que la science moderne, née de l’espoir de Francis Bacon de soulager la misère humaine (développée dans son ouvrage posthume, La Nouvelle Atlantide), porterait en elle le germe d'un système de contrôle universel.
Le plus grand danger eschatologique de notre siècle ne serait donc pas la destruction physique de la Terre (“l'Armageddon” biblique), mais l'avènement d'un ordre mondial régulé, conformiste et stagnant, qui abolirait la liberté humaine au nom de la paix et de la sécurité.
Ces thèses font étrangement écho avec un article du philosophe et épistémologue Dominique Durbarle. En 1948, ce dominicain féru de science publiait dans Le Monde une recension “d’un livre extraordinaire, mystérieusement intitulé Cybernetics, or control and communication in the animal and the machine”, et publié à Paris aux éditions Hermann.
Cet ouvrage séminal n’est autre que celui du célèbre Norbert Wiener. La recension de Wiener est l’occasion pour le père Dubarle de revenir sur la naissance et les promesses de “la cybernétique” naissante :
Les premiers grands relais du cerveau humain viennent de prendre naissance, proportionnellement aussi neufs, aussi puissants par rapport aux outils usuels du calcul qu'un tour automatique l'est par rapport à la lime du serrurier. Le fait est vraisemblablement d'importance encore plus considérable que ne le sont la conquête de l'énergie nucléaire et la réalisation de la bombe atomique.
Dubarle développe aussi ses craintes à propos de l’émergence d’un gouvernement mondial totalitaire. Sauf que chez Dubarle (qu’Éric Rohmer fera discuter vingt ans plus tard d’un autre savant, Blaise Pascal), il n’est pas question d’une technocratie millénariste, comme chez Peter Thiel. Il s’agit simplement d’une technocratie qui considèrerait que le calcul probabiliste est plus efficient que la délibération humaine. Soit, la position de beaucoup d’entrepreneur de la Silicon Valley.
Dominique Dubarle, en arrière-plan
Dubarle craint en effet qu’on en vienne à utiliser la puissance computationnelle pour suppléer à la puissance publique et qu’on en vienne à créer un “prodigieux Léviathan politique”. Il y a donc 78 ans, Dominique Dubarle a merveilleusement résumé le risque d’un totalitarisme algorithmique :
“Nous pouvons rêver à un temps où la machine à gouverner viendrait suppléer - pour le bien ou pour le mal, qui sait ? - l’insuffisance aujourd’hui patente des têtes et des appareils coutumiers de la politique.”
(…)
La machine à gouverner définirait alors l’État comme le meneur le plus avisé sur chaque plan particulier, et comme l’unique coordinateur suprême de toutes les décisions partielles.
(…)
Autant qu’on en puisse juger deux conditions seules peuvent assurer ici la stabilisation au sens mathématique du terme : une suffisante inconscience de la masse des partenaires, exploitée alors par les joueurs avertis, qui peuvent du reste organiser un dispositif de paralysie de la conscience des masses ; ou alors une suffisante bonne volonté de s’en remettre à un ou quelques meneurs de jeu, arbitrairement privilégiés en vue de la stabilité de la partie.
Dure leçon des froides mathématiques, mais qui éclaire de quelque manière l’aventure de notre siècle, hésitant entre une turbulence indéfinie des affaires humaines et le surgissement d’un prodigieux Léviathan politique.
Ces quelques meneurs de jeu ne rappellent-ils pas les hérauts de la gouvernance algorithmique ? Ce “formidable Léviathan” n’a-t-il pas déjà trouvé son incarnation dans la fusion entre l’État américain et la Silicon Valley ? Peter Thiel, qui reconnaît avoir toujours cherché à “contourner la politique des puissances et des principautés mondiales”, n’a-t-il pas fini, avec ses coreligionnaires, par subvertir l’État lui-même ?
Dubarle conclut ainsi, sur une mise en garde tragique :
(…)
Nous risquons aujourd’hui une énorme cité mondiale où l’injustice primitive délibérée et consciente d’elle-même serait la seule condition possible d’un bonheur statistique des masses, monde se rendant pire que l’enfer à toute âme lucide.