Grégory Aimar
Il n’est pas dans mes habitudes de reprendre des textes publiés par d’autres auteurs sur ce blog, mais le papier de Nathalie Maréchal dont il est question ici est d’une importance fondamentale. Spécialiste du technofascisme, chercheuse associée au Carr Center for Human Rights Policy de la Harvard Kennedy School et directrice des politiques à l’IIID (Institute for Information, the Internet and Democracy) de l’Université Northeastern, le Dr Maréchal témoigne dans son article — What Policymakers and the Public Need to Know About the Cult of AI — de sa prise de conscience de la façon dont l’idéologie transhumaniste oriente la politique industrielle des Big Tech et des conséquences de cette orientation pour le futur de l’humanité. Extraits.
Le constat que dresse Nathalie Maréchal est clair : les responsables politiques et économiques du monde entier sont dans le déni concernant les motivations idéologiques profondes des gourous de l’IA et ils entrainent avec eux une grande partie de la population dans leur aveuglement. Après avoir décrit, dans les grandes lignes, les fondements des croyances technoreligieuses qui animent les géants du numérique, l’auteure déplore, dès les premières lignes de son texte, que « les aspects les plus troublants de ces croyances sont passés sous silence, jugés trop bizarres pour être abordés en société — du moins dans les cercles politiques de Washington et de Bruxelles ».
Selon ces croyances, [l’intelligence artificielle générale et la super IA] sont des êtres synthétiques omniscients qui pourraient être moralement équivalents aux humains, car ils posséderaient « la lumière de la conscience », pour reprendre l’expression favorite d’Elon Musk, quoi que ça puisse vouloir dire. Leurs adeptes envisagent de télécharger leur « conscience » dans le cloud et de la fusionner avec [cette] intelligence artificielle générale (IAG) afin de créer des « posthumains » ou des « transhumains » qui succéderont un jour à l’Homo sapiens comme espèce dominante de l’univers — un « digne successeur » de l’humanité. Et cet avenir sombre les enthousiasme tellement qu’ils sont prêts à tout pour y parvenir.
En un mot, c’est complètement dingue. Surtout, c’est dangereux, et ce danger est amplifié par notre tendance collective à rejeter les idées marginales avant qu’il ne soit trop tard. Il est difficile pour beaucoup d’entre nous d’accepter que des gens croient réellement à de telles choses, et encore plus qu’ils fondent des décisions aussi importantes, impliquant des investissements de plusieurs milliards de dollars, des milliards de vies et l’avenir de l’humanité, sur ces croyances. Et c’était aussi ma réaction jusqu’en 2025 : ces idées sont tellement farfelues, tellement déconnectées de la réalité empirique et de la morale élémentaire, pourquoi perdre mon temps et ma santé mentale à débattre avec des illuminés ? En bref, parce que ces illuminés sont désormais au pouvoir et qu’ils utilisent ce pouvoir pour démanteler les institutions censées assurer notre sécurité, notre santé et notre liberté. (…)
Depuis des années , une petite communauté d’universitaires et de journalistes étudie et écrit sur ce que Timnit Gebru et Émile P. Torres ont nommé le « faisceau TESCREAL » — acronyme de Transhumanisme, Extropianisme, Singularitarisme, Cosmisme, Rationalisme, Altruisme Efficace et Long-termisme. Pourtant, pour une raison obscure, la plupart des élites politiques et médiatiques hésitent à aborder de front ce foisonnement de visions du monde, ce qui engendre une sorte de paralysie chez les experts en politiques publiques : si ce sujet était vraiment important, on en parlerait certainement davantage !
Pour celles et ceux qui ne seraient pas familiers avec l’acronyme TESCREAL, voici une (très) courte description des mouvements qu’il désigne : le Transhumanisme est une idéologie qui promeut « l’augmentation », voire la transformation de l’être humain par la science et la technologie (NBIC) ; l’Extropianisme est une autre expression du transhumanisme, qui met l’accent sur la possibilité de contrer l’entropie croissante de l’univers (c’est-à-dire sa tendance au désordre) grâce, là aussi, à la technoscience ; le Singularitarisme est la croyance en l’avènement de la Singularité, ce moment où l’IA dépassera l’intelligence humaine et où elle prendra le contrôle de notre avenir ; le Cosmisme est un mouvement philosophique issu de la Russie du XIXème siècle qui prête à l’humanité la mission de parvenir à l’immortalité, à la résurrection des morts et à la conquête du cosmos, toujours grâce à la science et la technique ; le Rationalisme est une doctrine philosophique qui accorde à la raison une place centrale dans le développement de l’humanité (dans le contexte technoreligieux, cette notion est à mon sens totalement hors-sujet) ; l’Altruisme Efficace (AE) est un courant de pensée qui prône « l’efficacité » dans la charité (pour mieux comprendre cette notion, je vous renvoie aux articles d’Émile Torres qui analyse parfaitement sa perversité) ; le Long-termisme prolonge en quelque sorte la logique de l’AE, mais dans le temps : pour ses adeptes, il est préférable de laisser mourir les pauvres aujourd’hui pour investir davantage dans l’IAG car celle-ci, une fois conçue, permettra de sauver beaucoup plus de vies demain.
La pierre angulaire du culte de l’IA est l’affirmation selon laquelle les programmes informatiques comme les chatbots LLM sont conscients, omniscients et omnipotents, ou qu’ils le seront bientôt — ce qui est un pur non-sens. (…) De nombreux leaders d’opinion dans les discussions sur la politique d’IA s’abstiennent poliment d’exprimer des opinions sur le sujet de la conscience de l’IA, ou sur la question de savoir si un système informatique pourrait un jour dépasser la capacité humaine dans tous les domaines, probablement pour éviter une confrontation avec des alliés potentiels qui partagent des objectifs stratégiques à court terme. (…)
Les manifestes [des leaders de la Tech] dépeignent l’avenir de l’IA comme inévitable, à la fois dans le sens « faible » que les outils existants aujourd’hui ne disparaîtront pas et dans le sens « fort » que l’ensemble de l’ordre mondial social, économique et politique est au bord du bouleversement total en raison de l’avènement imminent de l’IAG ou de la super intelligence (SI). Les auteurs de ces manifestes peuvent ou non croire sincèrement que c’est inévitable. Ce qui est indéniable, c’est qu’ils veulent désespérément que ce bouleversement se produise, alors ils consacrent leurs relations publiques et la puissance de feu de leur industrie à nous convaincre que la résistance est inutile. Quiconque vous dit qu’il n’y a aucun intérêt à se battre pour un avenir meilleur veut juste que vous abandonniez le combat. (…)
L’afflux massif de capitaux provenant des entreprises rendues immensément riches par leur introduction en bourse, passée (SpaceX) ou à venir (OpenAI et Anthropic), rend d’autant plus urgent pour les professionnels des politiques technologiques d’intérêt public de mieux comprendre les courants idéologiques qui imprègnent le secteur de l’IA. (…)
Quand on comprend que les magnats de la Tech sont des eugénistes qui se soucient davantage de vies hypothétiques, augmentées par l’IA dans le futur, que de la population actuelle, et qu’ils estiment avoir le droit et le devoir de régner sur une société brutalement hiérarchisée où la « rationalité » froide et informatique prime sur les droits humains et la dignité, beaucoup de choses s’éclairent. (…)
L’engouement pour l’investissement dans l’IA et le rythme effréné des gros titres sur les menaces bien réelles à la cybersécurité continuent de détourner l’attention des décideurs politiques et du grand public du danger le plus grave qui nous menace : non pas une IAG ou une intelligence artificielle systémique malveillante, ni l’incapacité à en créer une bienveillante, mais la concentration effrénée des richesses et du pouvoir entre les mains d’une poignée de milliardaires illuminés qui cherchent à s’accaparer l’avenir1. Ceux qui travaillent sur les politiques technologiques et souhaitent bâtir un avenir plus juste, équitable et durable ont le devoir de fixer des limites et de se prémunir contre un tel scénario.
Je vous invite vivement à lire l’article de Nathalie Maréchal dans son intégralité sur le site de Techpolicy. Il est très riche, très clair et mérite vraiment qu’on s’y attarde.
Les deux idées qui m’ont le plus frappé dans ce papier, c’est l’observation, par l’auteure, de « notre tendance collective à rejeter les idées marginales » d’une part, et la caractérisation de cette habitude qu’ont « de nombreux leaders d’opinion dans les discussions sur la politique de l’IA de s’abstenir d’exprimer des opinions sur le sujet de la conscience de l’IA » ou sur celui d’une « super IA toute-puissante ». Deux constats que je partage de longue date, mais que je ne vois mentionnés que trop rarement, voire jamais, dans les débats.
Voici ce que j’écrivais, en 2024, dans le premier chapitre de L’Evangile selon Big Tech : « Je travaille depuis plus de huit ans sur les sujets de l’intelligence artificielle et du transhumanisme, et je me pose tous les jours la même question : pourquoi la dimension religieuse de la technologie est-elle si peu étudiée par les spécialistes du domaine et si peu évoquée dans les médias, alors qu’elle constitue le cœur même de son développement ? (…) Si le tsunami technologique qui déferle actuellement sur le monde s’accompagne d’une ambition religieuse, alors nous devons oser questionner cet objectif et en débattre. Bien que peu d’observateurs le mentionnent, la motivation principale de l’agenda transhumaniste est métaphysique et ses conséquences spirituelles auront des répercussions sur tous les aspects de notre vie. »
Voici ce que j’écrivais encore, début 2025, dans un article que je consacrais à Peter Thiel, le technoprophète de l’Apocalypse, pour la Revue des Deux Mondes : « On imagine mal Peter Thiel, cette figure ultra-influente de la tech, cofondateur de PayPal, investisseur précoce et ex-membre du conseil d’administration de Facebook, fondateur de Palantir Technologies, mentor de J. D. Vance et proche conseiller de Donald Trump, s’inquiéter des prophéties bibliques et de la fin du monde. C’est pourtant ce qu’il confiait à Peter Robinson en octobre 2024, au sein de la prestigieuse Université de Stanford, à l’occasion d’un entretien dans lequel il livrait sa vision littéralement apocalyptique de notre avenir et sa crainte de voir l’Antéchrist émerger de la révolution technologique en cours. Ces considérations technoreligieuses, à ce jour encore largement ignorées par les institutions européennes, traversent en réalité tout l’écosystème de l’intelligence artificielle, en particulier américain, et ont déjà des conséquences politiques très concrètes. L’Europe peut-elle encore se permettre, à l’aube du second acte trumpien, de faire l’économie d’une réflexion sur le sujet ? »
Le fait que des chercheurs du calibre de Nathalie Maréchal osent s’exprimer sur ces enjeux constitue un immense progrès, mais il reste beaucoup à faire. Pour l’heure, la plupart des grands médias, ainsi que de nombreux scientifiques, intellectuels et responsables politiques restent fermés à l’idée de débattre du projet transhumaniste des Big Tech, en particulier en France. Pourtant les déclarations des leaders de l’industrie se font de plus en plus explicites et elles imprègnent lentement mais sûrement la société, dans son ensemble2.
Pour sortir de ce déni, il me paraît primordial d’essayer d’en comprendre les ressorts. Face à des bouleversements si profonds, à des questions aussi vertigineuses que celles de la conscience artificielle, de la définition et de la survie même de l’humanité, pourquoi diable regardons-nous ailleurs ? Est-ce que le conformisme de notre espèce, les intérêts financiers en jeu ou le manque de courage politique suffisent à expliquer notre refus de regarder en face ces enjeux qui engagent notre avenir et celui de nos descendants de façon aussi radicale ? Pour y avoir réfléchi de nombreuses fois, ces dix dernières années, il me semble qu’une partie de l’explication pourrait se situer dans ce qu’impliquent ces questions, c’est-à-dire dans les réflexions qu’elles devraient nous obliger à avoir et que nous refusons au nom d’une pseudo-rationalité qui n’a, en réalité, rien de scientifique.
Pour paraphraser Hannah Arendt, qui estimait que le mal ne pouvait se produire qu’à la faveur d’une absence de la pensée3, je dirais que le projet transhumaniste porté par les Big Tech ne peut se développer, aujourd’hui, que dans le vide spirituel laissé par les religions et que personne, ou presque, n’a entrepris de combler. En d’autres termes, pour sortir de cette crainte de la stigmatisation sociale qu’entrainent systématiquement les discussions publiques traitant de la nature de la conscience, de la possibilité de l’âme, des expériences numineuses ou, même, de l’hypothèse de Dieu, il nous faudra, dans les prochaines décennies, réhabiliter ces sujets dans l’espace public et avoir le courage de réaffirmer leur pertinence dans les discussions scientifiques et politiques de notre temps4.
C’est à cette seule condition que nous serons capables de comprendre en profondeur le choix auquel nous confronte l’avènement planétaire de l’IA, en tant qu’humanité, et que nous pourrons décider collectivement, librement et en toute conscience, quelle voie nous voulons suivre dans les siècles à venir.
Merci d’avoir lu L’Evangile selon Big Tech | Le blog ! Abonnez-vous gratuitement pour ne manquer aucun article et soutenir mon travail.
1 C’est la seule critique que j’ai à faire sur cet article : je n’adhère pas à cette tendance qui consiste à opposer les risques entre eux : les risques en cybersécurité sont réels ; le risque de perte de contrôle d’une IAG est réel ; le risque de déshumanisation lié à une utilisation prolongée des chatbots est réel ; les risques écologiques et économiques sont réels… Nous devrions pouvoir affronter l’ensemble de ces problématiques, sans chercher systématiquement à disqualifier l’une ou l’autre pour soutenir notre propos.
2 « [Dans la continuité du transhumanisme], le posthumanisme, surtout dans ses versions les plus radicales, (…) critique l’anthropocentrisme et envisage une forme d’hybridation entre l’être humain, la machine et l’environnement, allant jusqu’à imaginer un franchissement de seuil où l’humanité se surpassera en entrant dans une nouvelle étape évolutive. Même si ces hypothèses restent en grande partie spéculatives, elles acquièrent une importance, car elles modifient l’imaginaire collectif et, par conséquent, orientent les choix sociaux, économiques et politiques. » Pape Léon XIV, Magnifica Humanitas (§116)
3 « C’est dans le vide de la pensée que s’inscrit le mal » : cette phrase n’a en réalité pas été écrite telle quelle par la philosophe. Elle a été rédigée par Amos Elon, préfacier d’Arendt dans une édition américaine d’Eichmann à Jérusalem qui, toutefois, reprenait bien l’analyse de l’auteure. Pour plus de détails, voir l’article consacré à cette phrase sur le site Citations vérifiées.
4 C’est pour contribuer à cette réhabilitation que j’ai écrit mon dernier essai, L’Origine de la conscience(2026), que je vous invite à découvrir ici 👇