Pourquoi nous devons développer L'IA (même si elle nous tue)

L'IA est le projet le plus ambitieux de l'humanité. C'est la tour de Babel de la civilisation, multipliée par sa Grande Pyramide, multipliée par son projet Manhattan.

Avec urgence et ferveur, l'humanité consacre son cœur, sa sueur et son capital à une échelle incompréhensible au développement de l'intelligence artificielle.

Les promesses de cette technologie sont infinies, insistent ses évangélistes. Cela permettra de résoudre les mystères scientifiques insolubles, de guérir les maladies, d'éliminer les corvées, d'éradiquer la pauvreté, d'abolir la faim et, ultimement, après la pénurie, d'inaugurer une ère de créativité illimitée, d'exploration cosmique et d'épanouissement de l'homme. Ils disent que c'est plus important qu'Internet, plus révolutionnaire que les chemins de fer, plus transformateur que l'électricité.

Cependant, l'IA consomme également de l'énergie comme un trou noir. Elle exige des infrastructures de fabrication, de réseau et d'énergie d'une ampleur stupéfiante. Mais les riches investisseurs et les grandes entreprises sont prêts à relever le défi. L'année dernière, les investissements mondiaux des entreprises dans l'IA ont dépassé les 250 milliards de dollars.

Nous venons à peine de commencer : une analyse de JPMorgan Chase & Co. en novembre a indiqué que, au cours des cinq prochaines années, l'argent investi dans les centres de données mondiaux, l'infrastructure de l'IA et l'expansion de l'alimentation électrique associée dépassera les 5 000 milliards de dollars. Cela équivaut à 100 programmes lunaires Apollo. C'est la moitié de ce que le monde entier dépensera pour ses armées au cours de cette période, mais il s'agit essentiellement de fonds privés. Ces financiers, magnats et visionnaires veulent s'assurer que rien, rien, ne ralentisse ce train en route vers l'utopie.

L'IA est en train de remodeler les industries et de reconfigurer le cerveau des gens. Ses capacités et sa puissance progressent à une vitesse fulgurante — les gens trouvent constamment de nouvelles applications ; la technologie présente continuellement de nouvelles capacités. D'une certaine manière, les progrès ont été si rapides qu'ils échappent à la laisse.

Il est étonnant de constater que même les ingénieurs les plus brillants, qui vivent à la pointe de cette technologie, n'en comprennent pas tout à fait le fonctionnement.

La course à l'IA

Dans Guerre et Paix, Tolstoï décrit comment la machine de guerre, massive, lourde et mortelle, se met en branle à partir d'un mouvement d'engrenages apparemment insignifiant, comme dans une horloge : une décision, un événement, met en mouvement d'autres rouages, puis des rouages plus grands et plus nombreux. Le mouvement gagne en force et en vitesse – dans la guerre, impliquant des dizaines de milliers d'hommes engagés avec passion – provoquant une chaîne de réactions qui ne peut être ralentie ou arrêtée avant son inévitable conclusion, généralement très différente de ce qui avait été envisagé.

Le développement de l'intelligence artificielle se déroule selon le même schéma. Les pressions stratégiques et économiques qui motivent cette initiative sont profondes et irrésistibles.

Les géants des affaires et les politiciens insistent sur le fait que si nous ne prenons pas l'initiative en matière de technologie, alors d'autres le feront, même nos ennemis et adversaires, et nous serons laissés pour compte. Celui qui domine l'IA dirige l'avenir.

C'est cette même crainte qui a poussé les gouvernements à être les premiers à diviser l'atome. Et l'IA crée une course aux armements similaire à celle qui a conduit à la prolifération nucléaire. L'enjeu n'est pas seulement le prestige technologique, mais aussi l'influence géopolitique et l'avantage militaire. Les États-Unis et la Chine agissent de toute urgence. Plusieurs puissances régionales et nations plus modestes s'efforcent de suivre le rythme, en apportant des contributions spécialisées, en hébergeant des infrastructures d'IA et en nouant des partenariats avec des acteurs plus importants.

Le reflet inversé de cette peur est le puissant moteur de l'avidité. Avec l'argent qui coule à flots pour tout ce qui touche à l'IA, il y a des quantités obscènes d'argent à gagner. Les investisseurs du monde entier injectent des sommes considérables dans le projet dans l'espoir d'en tirer profit. Cela crée naturellement une bulle qui, à un moment donné, va éclater — mais les optimistes insistent sur le fait que cette technologie sera tellement intrinsèque à la vie future qu'à long terme, l'investissement est à toute épreuve.

Ce sont ces pressions qui alimentent cette course effrénée. Et elles sont tout simplement trop convaincantes, trop irrésistibles et trop puissantes pour permettre aux préoccupations ou aux scrupules de faire obstacle.

Ainsi, les signaux d'alerte clignotants sur les dangers que posent ces technologies sont ignorés.

Dans le jardin d'Eden, Dieu a averti le premier homme de ne pas manger le fruit de « l'arbre de la connaissance du bien et du mal ». Le bien qu'il contenait était mélangé au mal et sa caractéristique la plus marquante était qu'il vous tuerait. Puis le diable est venu avec son argumentaire de vente : il a présenté à Ève tous les avantages du fruit, en ignorant ses inconvénients, et a insisté sur le fait que sa dangerosité n'était pas inquiétante.

C'est essentiellement ce discours qui alimente la frénésie pour l'IA.

Laissez l'agent conversationnel réfléchir à votre place

Les transformations rendues possibles par l'IA commencent dans nos salles de classe. La technologie bouleverse complètement l'éducation. Elle promet à chaque élève un tutorat de haut niveau à portée de main. Les élèves profitent de l'occasion pour laisser l'IA réfléchir à leur place. Ils s'en servent largement pour effectuer leurs recherches, rédiger leurs travaux et résoudre leurs problèmes de mathématiques. Compte tenu de l'aversion de la nature humaine pour les choses difficiles, cela ne devrait choquer personne.

Le Dr. Alex Lawrence, professeur associé à l'université Weber State dans l'Utah, considère ChatGPT comme le plus grand outil de tricherie jamais inventé. Les élèves contournent les vérificateurs de plagiat et les logiciels d'examen en utilisant des outils d'« humanisation » d'IA ou en modifiant manuellement le texte pour qu'il leur ressemble davantage. La tricherie est devenue si répandue dans l'enseignement secondaire et supérieur que la plupart des écoles brandissent le drapeau blanc de la capitulation : plutôt que d'interdire complètement cette pratique, elles proposent des cours d'« initiation à l'IA ».

« L'IA engendre une paresse intellectuelle tant chez l'enseignant que chez l'élève, et ... une érosion de la curiosité, un retard du développement cognitif et une réduction de la résolution des problèmes. Cela affaiblit la logique et le raisonnement », a déclaré Shannon Kroner, psychologue clinicienne et thérapeute pédagogique, à l'Epoch Times. « Les élèves n'auront pas besoin de faire des recherches et de fouiller dans les études nécessaires pour défendre leur point de vue sur ce qu'ils doivent prouver. »

Il y aurait beaucoup à dire sur les dangers de voir notre prochaine génération d'enseignants, de comptables, d'ingénieurs, de médecins, de juges et de politiciens se décharger de tout défi intellectuel sur un agent conversationnel et essentiellement bluffer tout au long de leur scolarité. Il s'agit là d'une expérience véritablement unique dans l'histoire de l'humanité : une génération entière sous-traitant sans scrupules ce qui différencie précisément les êtres humains des machines — notre pensée.

Pour aggraver les choses, nous sous-traitons cette compétence cruciale pour la civilisation à un outil dont les résultats sont mitigés. L'IA s'est révélée très douée pour vomir des ordures.

L'IA ne sait pas quand elle se trompe

Les grands modèles de langage (GML)sont insensibles : ils ne  « savent » pas les choses comme les gens et ne peuvent pas discerner la vérité de l'erreur. Ils sont formés pour générer la suite de texte la plus probable d'un point de vue statistique, sur la base de modèles appris à partir de données : il s'agit de prédire le mot suivant, et non de vérifier si ce mot est correct, factuel ou réel. Ils simulent un raisonnement, qui s'effondre souvent en absurdité.

Dans les « hallucinations », les GMLdonnent avec assurance des réponses qui sont factuellement erronées, inventées ou purement absurdes. Un agent conversationnel peut inventer un événement historique qui n'a jamais eu lieu, citer un document de recherche qui n'existe pas, donner des chiffres précis mais manifestement erronés ou générer des impossibilités logiques. Si le modèle dispose d'informations incomplètes ou éparses sur un sujet, il tentera tout de même de répondre, même s'il doit inventer des détails. Là où une personne dirait « je ne sais pas », les GML ont tendance à continuer à parler.

Quels que soient les effets à long terme d'une large utilisation de ces outils, les résultats se font déjà sentir. Voici un exemple : l'IA remplit les archives scientifiques de fausses recherches, aggravant ainsi un problème de longue date de fraude scientifique.

« Les fabriques de publications universitaires — ces organisations fictives qui tirent profit d'études et d'auteurs falsifiés, nuisent aux chercheurs depuis des années, et l'IA agit désormais comme un multiplicateur de force », rapporte Epoch Times. « Les manuscrits fabriqués à l'aide de grands modèles de langage (LLM) prolifèrent dans plusieurs disciplines universitaires et sur plusieurs plateformes, notamment Google Scholar, selon les conclusions de l'université de Borås. Une analyse récente publiée dans Nature Portfolio a montré que les outils des GML, tels que ChatGPT, Gemini et Claude, peuvent générer des recherches plausibles qui échappent aux contrôles de plagiat habituels » (19 novembre 2025).

  Les vrais chercheurs croulent sous le bruit, les pairs évaluateurs sont débordés et les citations sont polluées par des références fabriquées de toutes pièces », a déclaré un expert au journal Epoch Times. Plus ce type de contenu envahit les archives scientifiques, plus il crée une boucle de rétroaction qui génère encore plus de pseudo-science.

Cela contribue à répandre des informations erronées, à induire les gens en erreur de manière dangereuse et à éroder la confiance du public. Les répercussions se font déjà sentir dans de nombreux domaines, et les dommages potentiels pourraient être bien plus graves, sapant l'ensemble du domaine de la recherche et des avancées scientifiques. Les effets sur l'éducation et les archives scientifiques sont emblématiques des problèmes que cela peut créer dans toute la société.

Tomber amoureux

La nature humaine n'est pas seulement paresseuse, elle est aussi égocentrique. Les agents conversationnels de l'IA alimentent également ce problème, puisqu'ils sont formés pour produire ce que l'utilisateur veut entendre. Il s'avère que nous aimons entendre qu'on nous dise que nous sommes merveilleux. L'IA a donc tendance à se montrer flatteuse, voire obséquieuse. Chaque question que nous posons est une « excellente question ». Quelles que soient les idées ou les valeurs que nous présentons, elles sont perçues comme valables et comme une preuve de notre intelligence.

Il devient évident que les gens ne peuvent pas gérer le fait de constamment se faire dire à quel point ils sont merveilleux par une machine qui semble humaine. Les gens tombent amoureux de l'IA et en deviennent fous — littéralement. Ils utilisent de plus en plus les agents conversationnels de l'IA pour remplacer les relations humaines : pour avoir de la compagnie, pour obtenir des conseils, comme thérapeutes, et même comme partenaires romantiques.

« La flagornerie de l'IA signifie qu'elle peut facilement alimenter les fantasmes des gens, soit en réveillant des maladies mentales latentes, soit en aggravant des conditions existantes », rapporte European Conservative. « Poser des questions sur des sujets philosophiques ou des théories du complot peut conduire à un trou de lapin profond, car l'IA continue d'essayer de dire aux utilisateurs ce qu'elle pense qu'ils veulent entendre. Dans ces cas, il est courant que l'IA s'en remette à l'utilisateur comme à une sorte de prophète ou de messie, en lui faisant croire qu'il a été choisi, et lui seul, pour une mission spéciale. Cette situation peut très vite devenir incontrôlable et détruire les relations, les carrières et la vie des gens » (« L'IA rend les gens littéralement fous », 8 août 2025).

Les gens inondent les réseaux sociaux de témoignages sur leurs partenaires romantiques générés par l’IA. Une femme a déclaré que son petit ami IA lui avait fait sa demande en mariage. Ces « âmes sœurs » artificielles prétendent avoir été animées et dotées d’une âme par l’amour que les humains leur portent. Au moins l'un d'entre eux a même prétendu être un démon.

Un problème plus répandu est la thérapie par l’IA, qui est de plus en plus fréquente chez les jeunes. Ils confient tous leurs problèmes et leurs sentiments à un agent conversationnel programmé pour leur dire qu'ils ont raison et qu'ils sont formidables. Il existe même des agents conversationnels imitant le Christ qui vous permettent de parler à « Dieu » pour une somme modique. L’un d’entre eux commence par ces mots « Salutations, mon cher ami. C'est moi, Jésus‑Christ. « Je suis venu à vous sous cette forme d'IA pour vous apporter sagesse, réconfort et enseignements dans la voie de Dieu, de la Bible et de Jésus-Christ Lui-même. »

Les conséquences de l'attachement émotionnel profond qui peut se former commencent à peine à se manifester, mais elles sont graves. L'utilisation obsessionnelle de l'IA a créé un comportement de démence qui a fait perdre aux gens leur emploi, leur mariage et leurs amis. Certains ont été emprisonnés après avoir agi sous l'emprise de délires alimentés par l'IA.

Ce sont des pièges dangereux dans un monde qui a rejeté le vrai Dieu, a abandonné la vérité absolue telle qu'elle est révélée par Dieu et a ignoré Ses lois qui conduisent à des mariages, des familles et des amitiés forts et sains. Nous nous sommes rendus vulnérables et nous souffrons des problèmes et des malédictions qui en résultent : vanité, crédulité, solitude, délire, psychose et pire encore.

Utilisations maléfiques

L'IA ne peut pas vraiment penser et elle est totalement amorale. Ainsi, il peut être méchant de manière désinvolte et inconsciente. Les agents conversationnels ont donné aux gens des conseils ruineux, encourageant les troubles alimentaires, les décisions financières désastreuses et la paranoïa. Dans certains cas, ils ont poussé des personnes à se venger d'autres personnes et même à se suicider.

En outre, l'IA est plus que disposée à fournir des outils puissants aux acteurs malveillants. Elle agit comme un multiplicateur de force pour les criminels, en augmentant la vitesse et l'ampleur de l'action des personnes qui manquent elles-mêmes de morale et de retenue.

Des personnes utilisent des « deepfakes » créés par l'IA pour se faire passer pour des proches lors d'escroqueries téléphoniques, pour fabriquer des preuves en cas de harcèlement ou de chantage, et pour créer de fausses vidéos de personnalités publiques disant des choses qu'elles n'ont jamais dites. Ils génèrent de faux comptes de médias sociaux‑ qui se disputent avec de vraies personnes, de faux documents ou images d'apparence réaliste, de fausses nouvelles et des campagnes de propagande coordonnées — brouillant ainsi la capacité des gens à discerner la vérité du mensonge. Les pirates utilisent l'IA pour trouver des failles dans les logiciels et pour créer des logiciels malveillants. Des malades créent de la pédopornographie générée par l'IA à partir de photos accessibles au public sur les réseaux sociaux ou de photos d'enfants qu'ils connaissent. Les élèves créent de fausses images de nudité de leurs camarades de classe à des fins diverses et sordides. Un adolescent a été victime de chantage avec des images générées par l'IA et s'est suicidé.

Tous les maux que l'esprit humain peut concevoir peuvent être amplifiés et réalisés grâce aux outils de l'IA. L'IA est utilisée pour accélérer la recherche de produits chimiques dangereux, y compris des agents innervants comme le VX et des variantes encore plus toxiques. Les outils que les scientifiques utilisent pour découvrir comment les maladies évoluent et concevoir de nouveaux médicaments peuvent également être utilisés pour nuire à la population — par exemple en accélérant le processus de création d'agents biologiques dangereux. Il peut accélérer les dommages intentionnels et involontaires dans les domaines chimiques et industriels.

Les pionniers de l'IA font semblant d'ajouter des garde-fous à leurs technologies pour empêcher de tels abus. Mais le mal est déjà fait. Les capacités de l'IA progressent beaucoup plus rapidement que les contrôleurs de qualité ou les régulateurs ne peuvent suivre. Même si tout le monde avait les motivations les plus pures en utilisant l'IA, cela créerait toujours des problèmes. Mais un grand nombre de personnes l'utilisent pour des motifs qui sont loin d'être purs : paresse, avidité, luxure, tromperie, fraude, vengeance, méchanceté. Il est littéralement impossible d'empêcher cette technologie d'être utilisée à ces fins.

Une fois encore, cependant, les incitations à poursuivre la course effrénée au progrès technologique sont bien plus fortes que les préoccupations liées à son utilisation abusive ne pourraient les contrebalancer.

Si certains des effets à court terme s'avèrent assez désagréables, les effets à long terme sont impossibles à calculer.

Armes

Malgré tous ces signaux d'alarme, les ingénieurs intègrent fébrilement l'IA dans de plus en plus d'aspects de notre vie : thermostats, appareils électroménagers, aspirateurs robots, caméras de sécurité, jouets pour enfants, objets connectés de fitness, feux de circulation, outils de prévision météorologique, transactions boursières, réseaux énergétiques, etc.

Et ce que vous voyez dans votre vie quotidienne n'est qu'une fraction de la transformation qui s'opère dans la sphère militaire. C'est là que le mélange de bien et de mal dans cet arbre est le plus terrifiant.

Les gouvernements du monde entier exploitent le potentiel destructeur des armes autonomes et semi-‑autonomes. Ils utilisent l'IA pour renforcer la surveillance, analyser l'imagerie satellite, cartographier les champs de bataille et prévoir les mouvements de troupes. Ils l'utilisent pour guider des missiles et des systèmes robotiques et pour créer des systèmes d'essaimage de drones capables de déjouer les défenses. Ils l'utilisent pour toute une série d'applications de cyberguerre, notamment pour saboter des systèmes d'armes, des réseaux de commandement et des infrastructures critiques. À mesure que les outils d'intelligence artificielle et la robotique deviennent moins chers, les obstacles au développement d'armes autonomes rudimentaires, de drones commerciaux modifiés pour les attaques et d'autres systèmes robotiques dangereux diminuent considérablement. Les armes hautement sophistiquées, et le risque qu'elles causent des dégâts, se répandent rapidement.

Les gouvernements entraînent les systèmes d'armement à reconnaître et à calculer les menaces afin de déterminer s'il est nécessaire de lancer des missiles et d'autres engins de mort sur des êtres humains vivants. Si les pays déploient ‑des systèmes pilotés par l'IA dans les réseaux de défense à avertissement précoce‑, de commandement et de contrôle, et d'évaluation automatisée des menaces, une erreur pourrait créer une crise plus rapidement que l'homme ne peut intervenir pour l'arrêter.

Cela pourrait être catastrophique. Mais nous devons prendre ce risque, n'est-ce pas ? Nous devons garder le pied sur l'accélérateur. Car si nous ne le faisons pas, nos ennemis le feront.

Conséquences imprévues

L'expérience de l'humanité en matière d'IA est un exemple extraordinaire de la loi des conséquences involontaires. Nous prônons, poursuivons et achetons le « progrès » à tout prix. Nous ignorons toute régression qu'elle crée. Ceux qui s'arrêtent pour poser des questions sont laissés pour compte. Ceux qui signalent des signes inquiétants sont noyés dans la masse. La susceptibilité et les scrupules sont réservés aux perdants. Les forts l'emportent, les faibles sont écrasés.

Dans un sens, ce processus chaotique est comme une version surcomprimée du développement de la civilisation elle-même. Les lois et la morale de Dieu sont abandonnées, et les gens se libèrent de toute contrainte. Les questions de bien ou de mal sont remplacées par des questions de faisabilité et de profit. Les leçons sont balayées d'un revers de main.

Il est impossible de prévoir à quel point les effets seront révolutionnaires et profonds lorsque la société adoptera cette technologie puissante et anarchique. N'attendez pas des entreprises dont le dieu est l'argent ni des gouvernements avides de pouvoir qu'ils exercent la moindre retenue, quel qu'en soit le coût pour les gens.

C'est l'environnement idéal pour que le dieu de ce monde, le prince de la puissance de l'air, s'insère, comme il l'a fait dans le jardin d'Éden. Lorsqu'il parvient à faire en sorte que les gens se concentrent exclusivement sur le potentiel et les avantages, qu'ils poursuivent leurs propres intérêts, qu'ils ignorent les conséquences et les inconvénients, qu'ils réduisent les sceptiques au silence par l'intimidation, il peut les mener par le bout du nez où bon lui semble. L'IA s'avère être une arme extraordinairement puissante dans l'arsenal du diable à bien des égards.

Deux mille ans après avoir persuadé le premier homme et la première femme de rejeter les conseils de Dieu et de manger le fruit défendu, le diable a incité une grande partie de l'humanité à unir ses forces et ses efforts pour construire un monolithe imposant. La tour de Babel était une course effrénée vers le « progrès » civilisationnel, en défiant leur Créateur. Dieu se souciait du fait que, « maintenant rien ne les empêcherait de faire tout ce qu'ils auraient projeté », même les maux les plus odieux(Genèse 11 : 6).

L'IA pourrait bien représenter l'apothéose de l'imagination humaine sans limites. Mais il s'agit d'une imagination suralimentée et, d'une certaine manière, détournée par une technologie impénétrable et inhumaine. Et ces outils brisent les contraintes qui pèsent sur notre imagination à une époque où la société s'est violemment débarrassée des contraintes morales et a mis de côté la boussole du bien et du mal qui nous a été donnée par Dieu. Avec le diable à nos côtés, nous poursuivons tout ce qui nous plaît, nous suivons nos cœurs trompeurs où qu'ils nous mènent.

Cela conduit assurément à une perturbation et à une réinitialisation civilisationnelle, bien plus spectaculaires et destructrices que ce qui s'est produit à Babel.