L'IA risque de mettre fin à l'humanité, selon des initiés

B onjour,

L'intelligence artificielle pourrait mettre fin à l'humanité d'ici quelques années, ont déclaré cette semaine trois chercheurs d'Anthropic.

• Jacob Coxon a démissionné de l'entreprise mardi et a écrit sur X : « Aucune autre activité humaine ne présente un tel niveau de danger. » Son message a été lu plus de 115 millions de fois en une journée.

• Evan Hubinger, responsable de la science de l’alignement chez Anthropic, a écrit qu’il estime personnellement à plus de 10 pour cent la probabilité d’une extinction causée par l’IA au cours de la prochaine décennie.

• Samuel Marks, qui dirige les travaux de surveillance évolutive de la société, a déclaré que plus un employé est haut placé au sein de ces entreprises, plus il a tendance à être inquiet.

Ce sont des initiés, les personnes qui construisent la technologie, qui voient bien plus que le reste d'entre nous. M. Coxon a déclaré que les dirigeants adoucissent leur langage pour la presse, tout en admettant leur peur en privé.

Pourtant, la course s'accélère. OpenAI a lancé GPT-6 Astra la semaine dernière, le qualifiant de saut générationnel vers l'intelligence artificielle générale.

• Jakub Pachocki, son propre directeur scientifique, a écrit cette semaine que, fondamentalement, une fois que l’on a vraiment compris ce qui est en jeu, continuer à foncer à toute vitesse n’a aucun sens. Puis il a expliqué pourquoi OpenAI le fait quand même.

• Les entreprises qui perçoivent le risque continuent de développer ces technologies, car leurs concurrents ne s’arrêtent pas. Les personnes les plus proches de la technologie sont celles qui mettent en garde le plus bruyamment, tout en continuant à recevoir leur salaire pour la développer plus rapidement.

• Les responsables fédéraux insistent sur le fait que le plus grand danger est de perdre du terrain face à la Chine, quel que soit le risque lié à l'IA elle-même. Toutes les parties s'accordent à dire que le danger est réel, et personne ne s'arrêtera.

Il existe un nom pour cette folie. Lors d'une conférence en juin, Jonathan Pageau a qualifié ce phénomène de « piège de Moloch », un type d'escalade issu de la théorie des jeux : une compétition dans laquelle chaque acteur rationnel, pour éviter de perdre, est forcé de faire des choix collectivement catastrophiques, même si aucun des acteurs concernés ne souhaite cette catastrophe.

• Moloch était le dieu cananéen qui exigeait que les gens sacrifient leurs enfants en échange de pouvoir. « Le piège de Moloch, c'est lorsque l'escalade pour conserver le pouvoir par la compétition nous amène à sacrifier ce qui est le plus précieux, même lorsque cela va finalement à l'encontre de nos intérêts », a déclaré Pageau. « Ainsi, par crainte que la Chine ne nous devance dans la mise en œuvre de l’IA, nous sacrifions des millions d’emplois, notre eau, notre énergie, l’esprit de nos enfants. »

• Les théoriciens des jeux ne croient pas que Moloch soit réel, mais ils « peuvent voir que Moloch se mue, qu’il veut quelque chose. Et tandis que nous nous faisons concurrence les uns aux autres, nous devenons ses jambes. Nous devenons ses mains. Et malgré nous, nous menons cette bête vers notre possible destruction. Alors que tout le monde regrette enfin d'avoir donné à ses enfants des tablettes et des téléphones (ce qui les rend bêtes, déprimés et dépendants), nous faisons demi-tour et nous précipitons pour intégrer l'IA dans absolument tout. Ainsi, que nous croyions ou non au dieu cananéen, nous nous retrouvons à lui sacrifier nos enfants. »

C'est un argument puissant. Derrière ce faux dieu cananéen se tenait un véritable diable. Il sait ce qu'il fait. Et nous le sous-estimons à nos risques et périls. Il encourage et stimule certainement le développement inexorable de cette technologie mystérieuse qui est en train de remodeler nos esprits mêmes et de nous précipiter vers un avenir inconnaissable.

Jésus-Christ a mis en garde contre un jour où, s'Il n'intervenait pas, l'humanité s'anéantirait elle-même (Matthieu 24 : 22). La course aux armements nucléaires a rendu ce verset crédible au siècle dernier, et de nombreuses prophéties indiquent que ces armes seront utilisées.

• L'IA nous offre une deuxième voie, qui n'est pas totalement sans rapport à cette issue désastreuse.

Heureusement, le Christ mettra fin à cette issue désastreuse et reviendra pour nous sauver de nous-mêmes. Sous Son règne, les hommes ne seront pas confrontés à des choix impossibles et ne poursuivront pas un « progrès » aux effets secondaires destructeurs. Tel est l'espoir certain de la Bible.

L’Inde et la Russie approfondissent leurs liens commerciaux et militaires : Les échanges commerciaux entre la Russie et l’Inde ont plus que quadruplé depuis 2021, faisant de l’Inde l’un des principaux partenaires commerciaux de la Russie, a rapporté hier l’agence Interfax. Le commerce entre les deux géants asiatiques a explosé depuis que les pays occidentaux ont imposé des sanctions à la Russie pour son invasion de l'Ukraine, atteignant 58,6 milliards de dollars l'année dernière. Les deux nations renforcent également leur coopération sur la route maritime du Nord de la Russie et développent conjointement la production de matériel militaire. Alors que l'Inde et la Russie continuent de renforcer leur coopération, les bases sont en train d'être jetées pour que l'Inde rejoigne une alliance militaire asiatique prophétisée dans la Bible et dirigée par la Russie.

L'organisme de contrôle nucléaire de l'ONU met en garde contre l'Iran : L'Agence internationale de l'énergie atomique a voté mercredi le signalement de l'Iran au Conseil de sécurité des Nations unies. L'organe de surveillance nucléaire des Nations unies affirme que l'Iran a refusé de fournir des informations sur ses stocks d'uranium enrichi ou de donner accès à ses installations nucléaires. La dernière fois que l'AIEA a saisi le Conseil de sécurité au sujet de l'Iran, c'était en 2006, ce qui a conduit à des sanctions internationales contre le régime islamiste. Il est peu probable que cela se produise cette fois-ci, mais le fait que l'agence, qui a toléré l'activité nucléaire iranienne pendant des décennies, la signale enfin au Conseil de sécurité démontre à quel point son programme nucléaire reste dangereux, même après avoir été attaqué par les États-Unis. 

Trump accepte les sanctions contre Israël : Le président des États-Unis, Donald Trump, a accepté que le Royaume-Uni impose des sanctions à Israël, selon Axios le 9 septembre. Selon « des responsables américains et des diplomates occidentaux », le Premier ministre britannique Andy Burnham a informé le président Trump que son gouvernement allait sanctionner des entités israéliennes en Cisjordanie, et le président n'a pas tenté de le dissuader. Interrogé à ce sujet, le secrétaire d'État américain Marco Rubio a déclaré : « Nous partageons l'objectif de stabilité. Nous ne voulons pas voir une recrudescence de la violence ou des tensions en Cisjordanie à un moment délicat dans la région. » Ésaïe 9 : 20 prophétise que Manassé et Éphraïm, les peuples américain et britannique d'aujourd'hui, se rangeront ensemble contre Juda, c'est-à-dire l'État d'Israël. Cette prophétie est en train de s'accomplir aujourd'hui.