L’intelligence artificielle (IA) est-elle là pour nous aider ou pour nous couler ? La question se pose réellement. Le 30 mai 2023, sur le site du think tank de la Silicon Valley, Center for IA Safety, les grands patrons de la Silicon Valley, Ellon Musk en tête, ainsi que la jeune garde, les principaux chercheurs en IA en occident, nous mettaient sérieusement en garde contre les dangers de l’IA, qu’ils comparent aux dangers que représentent une guerre nucléaire ou une pandémie.

Rien de moins. Il y a «risques d’extinction de l’humanité », nous avertissent-ils, en nous exhortant à la plus grande vigilance. En d’autres mots, ce sera l’apocalypse si nous n’y prenons pas garde. On dirait que des savants fous s’apprêtent à mettre au point un monstre dont ils risquent de perdre le contrôle à un moment donné.

Ces sonneurs d’alerte, l’auteur des Prophètes de l’IA, Thibault Prévost, les décrit comme «une congrégation composée majoritairement d’hommes blancs, issus des élites universitaires et entrepreneuriales anglo-saxonnes. Ils sont ingénieurs, chercheurs, philosophes, patrons et investisseurs, presque tous basés entre Londres et la Californie. […] Ils sont milliardaires, parfois « seulement » multimillionnaires, mais très rarement moins que cela.»

Leur mission : faire naître la machine pensante et en accaparer le pouvoir, tout en nous mettant en garde contre les dangers de l’apocalypse. Un discours totalement paradoxal, aux accents messianiques.

La menace supposée tient en un seul mot : ChatGPT, le robot conversationnel lancé en décembre 2022. Son inventeur, Sam Altman, laisse courir la rumeur que sa machine pourrait bientôt supplanter l’intelligence humaine, nous reléguant au statut de fourmis. «Le développement d’une IA surhumaine est probablement la menace la plus sérieuse à la pérennité de l’humanité », écrit-il. Mais placée «entre bonnes mains », elle pourrait bénéficier à toute l’humanité, s’empresse-t-il d’ajouter.

Simples perroquets

On ne rigole donc pas avec l’IA. Ses créateurs soufflent le chaud et le froid. Ils en vantent les mérites tout en nous prévenant des périls qu’elle peut engendrer pour l’humanité. Cette technologie nouvelle serait plus importante que la découverte du feu ou l’invention de l’électricité, selon plusieurs. Près de la moitié des patrons d’entreprises liées à l’IA croyaient, en 2023, qu’elle représente une menace réelle et qu’elle a «le potentiel de détruire l’humanité d’ici cinq à dix ans ». Or, pour Thibault Prévost, il n’en est rien. L’IA ne serait ni intelligente ni menaçante. Ces systèmes ne seraient que de simples «perroquets», «des calculateurs de probabilités qui n’ont aucune compréhension des mots et concepts qu’ils reprennent».

Et vlan !

Pour pouvoir avoir raison, il faut pouvoir avoir tort, affirmait le célèbre linguiste étatsunien Noam Chomsky. Or, ces systèmes de langage, si sophistiqués soient-ils, «sont incapables de distinguer le possible de l’impossible et ne peuvent donc pas prétendre à la plus élémentaire pensée. Ce sont des simulacres, puissants mais vides ».

Une stratégie de marketing

Alors, la fin du monde n’est pas pour demain, quoi qu’en disent les catastrophistes qui y voient le début de notre extinction. Quant aux utopistes qui anticipent le début de notre rédemption, ils participent du même discours exalté, ap partiennent à la même communauté, investissent dans les mêmes start-up et financent les mêmes think tanks que les catastrophistes.

Alors, pourquoi toute cette effervescence autour de l’IA ? Elle fait vendre. Le danger fait vendre. Une stratégie insidieuse de marketing qui consiste à faire paraître le produit plus puissant qu’il ne l’est. Nos prophètes apparaissent alors en sauveurs de l’humanité et imposent leurs solutions auprès des gouvernements. Un discours où la science et le Vatican sont unis afin de sauver le monde. Une vieille ritournelle où les prélats ont été remplacés par «les ingénieurs d’élite et les barons de l’innovation […] dans une Silicon Valley transformée en Terre sainte pour technoprophètes. […] Pour les Google, Microsoft, Amazon, Meta et autres, entretenir le mythe d’une technologie omnipotente n’offre donc que des avantages : plus de capitaux, moins d’interférence politique et médiatique, et une totale liberté de mouvement pour consolider leur influence.»

Cet ouvrage est une bombe. Non pas de celles qui détruisent le monde en prétendant le sauver, mais de celles qui éclairent dans le brouillard et illuminent la pensée critique qui n’a rien d’artificiel.

Jacques Lanctôt, Le Journal de Montréal, 22 janvier 2025.