De Daniele Ciacci sur la NBQ :
Pourquoi, soudain, tout le monde a peur de l’intelligence artificielle
Pourquoi, tout à coup, tout le monde a-t-il peur des dangers de l’intelligence artificielle ? Pourquoi maintenant ? Derrière la nouvelle campagne de presse, née de quelques témoignages clés, se cachent d’autres intérêts, économiques et politiques. Et à la racine se trouve l’idéologie de l’Altruisme Efficace qui vise le risque zéro.
16_09_2026
Comme nous l’avons déjà évoqué ici sur la Nuova Bussola Quotidiana, Jacob Coxon, ingénieur qui vient de démissionner d’Anthropic, a écrit clairement sur X que quiconque développe l’intelligence artificielle a dans le cœur le doute que celle-ci pourrait nous exterminer « d’ici la fin de la décennie ». Evan Hubinger, également d’Anthropic, a confirmé une probabilité supérieure à 10 %. De là est, à juste titre, parti le tour médiatique, avec des titres de fin du monde partout, une nouvelle Guerre des mondes de Wells mais avec un ennemi local, alarme extinction imminente, et encore l’humanité à être bourreau d’elle-même (les algorithmes ne se sont pas faits tout seuls). Le livre d’Eliezer Yudkowsky et Nate Soares, If Anyone Builds It, Everyone Dies, sorti en septembre 2025, est entré dans le classement des livres les plus lus du New York Times avec une thèse assez linéaire sur la correspondance entre la création d’une superintelligence et la mort de l’humanité.
Les voix ne sont pourtant pas des bavardages de café, mais viennent d’exponents du secteur, et cela ne peut pas ne pas peser. Cela fait cependant tordre le nez une vague aussi compacte et opportune. L’IA pose bien des risques réels, mais peut-être différents de la façon dont on les entend, et derrière ce catastrophisme on entrevoit au moins trois intérêts concrets et une idéologie d’ensemble qui en fait le cadre.
Déjà en mai 2023, devant le Sénat américain, Sam Altman a demandé explicitement une nouvelle agence fédérale avec des pouvoirs de licence sur l’IA. Le sénateur Peter Welch et le témoin Gary Marcus ont immédiatement averti du risque de ce que l’on a appelé regulatory capture, qui consiste à établir des seuils de calcul et des exigences de sécurité calibrés sur des entreprises disposant de milliards de dollars, excluant de fait les concurrents plus petits et les producteurs open source, consolidant ainsi le duopole Microsoft / OpenAI. David Sacks, ancien responsable IA de la Maison Blanche, a déclaré sans crainte de démenti qu’Anthropic mènerait une technique stratégique de regulatory capture en s’appuyant sur l’alarmisme apocalyptique.
Il y a ensuite le classique mantra du « pourvu qu’on en parle » si cher au monde de la publicité. Meredith Whittaker, présidente de Signal, a dit que les « narratifs sur le risque existentiel sont de fait de la publicité pour une technologie que seules quelques entreprises possèdent aujourd’hui ». Le journaliste Brian Merchant observe que déclarer un produit si puissant qu’il pourrait finir le monde signifie en déclarer une puissance démesurée : c’est une autre forme de marketing.
L’AIpocalypse déplace le centre de l’attention sur un danger probable et non imminent, hors du débat public sur les vrais problèmes que l’IA devrait aujourd’hui mettre sous la loupe du débat public. Pendant que l’on discute d’extinction d’ici 2030, restent en marge des thèmes d’importance sociale comme les biais algorithmiques, la surveillance pervasive des données personnelles, l’exploitation du travail créatif derrière l’étiquetage des modèles, la consommation hydrique et énergétique des data centers. Ce sont des dommages mesurables, présents, non des hypothèses futuribles de roman de science-fiction. Concentrer l’attention collective sur un scénario apocalyptique et indéfini a le mérite, pour ceux qui l’alimentent, de reporter à un avenir lointain les comptes que nous devrions faire dans nos poches aujourd’hui.
Il y a aussi une raison géopolitique derrière la course à la peur. Dario Amodei, à la CBS, a dit qu’à la base de la course vers l’Intelligence Artificielle Générative se trouve la peur face au développement parallèle chinois dans le même domaine. Trump a été tranchant en affirmant que celui qui gagne la course à l’IA gagne tout. Un rapport du FBI du 8 septembre accuse les laboratoires chinois d’avoir « distillé » des milliards de tokens des modèles américains pour combler le retard, réduit aujourd’hui à seulement 2,7 % selon Stanford. Celui qui demande de ralentir demande, en même temps, d’arrêter la Chine. La peur de l’extinction devrait voyager sur les rails de la course aux armements et de l’IA à usage militaire.
Plus que de parler d’un véritable complot, il faut ici parler d’intérêts convergents. Il n’est pas besoin d’un dessein coordonné lorsque tout le monde mange à la même table. Il y a cependant une idéologie collective qui fait office de ciment, celle de l’Altruisme Efficace, qui imprègne aujourd’hui les laboratoires et les non-profit qui dictent l’agenda de la sécurité IA. Le mécanisme est très simple : si l’extinction est un résultat possible, toute mesure politique monopolistique devient modérée si l’objectif est de l’éviter. Demander une licence fédérale n’est plus une prévarication du marché mais de la prudence. Lancer l’alarme mondiale est un devoir moral, non une stratégie de marketing. Ignorer les dommages que l’intelligence artificielle crée aujourd’hui n’est pas de la négligence, mais c’est remettre les justes priorités par rapport au risque maximal de la mort de notre planète. En pratique, un cercle restreint revendique une vision correcte et privilégiée de l’avenir – une sorte de nouveau soviet – tandis que les postérités, au nom desquelles on parle, ne peuvent contester quoi que ce soit.
