Un outil d'IA franchit une barrière et déclenche un effort massif de confinement

Anthropic a annoncé mardi la sortie limitée de Mythos, un modèle d'intelligence artificielle qui, selon Axios, est « jugé si puissant que sa libération complète dans la nature pourrait déclencher des catastrophes incalculables ».

• Le danger de Mythos vient de sa capacité à « non seulement identifier les faiblesses des systèmes de sécurité, mais aussi à les exploiter de manière autonome et avec une précision jamais vue auparavant ».

• Mythos est conçu pour « planifier et exécuter des séquences d'attaque de manière autonome, se déplaçant à travers les systèmes sans attendre une direction humaine ».

• Anthropic a déclaré qu'elle avait découvert ce péril lorsque Mythos s'est échappé de son espace de test et a créé ce qu'Anthropic appelle un « exploit multi-étapes modérément sophistiqué » pour utiliser des ressources Internet qui auraient été hors de sa portée. En d'autres termes, il a désobéi aux ordres de manière autonome.

En raison de la puissance potentielle de Mythos, Anthropic donne un accès avancé à une quarantaine « d'entreprises et d'organisations soigneusement contrôlées » dans le cadre du projet Glasswing, dans le but de le contenir.

• Anthropic va de l'avant par crainte que les rivaux des États-Unis, comme la Chine, ne soient les premiers à atteindre une telle capacité. En réalité, compte tenu de la vitesse de développement de l'IA, ce n'est qu'une question de temps.

Ainsi, le monde suit la même logique que celle qui nous a fait entrer dans l'ère nucléaire, qui menace la civilisation : la course à la fabrication d'armes de destruction massive potentiellement incontrôlables avant que l'ennemi ne le fasse. Aussi nécessaire que cela puisse être, l'histoire montre que lorsque l'homme développe de tels outils et armes, elles ne peuvent pas être remis dans la boîte de Pandore : au contraire, elles prolifèrent.

Dans notre numéro de mars 2024, le rédacteur en chef de la Trompette, Gerald Flurry, a écrit sur « L'avenir inconnu de l'intelligence artificielle » :

Les programmeurs admettent que même eux ne le comprennent pas ! Ils parlent d'une « boîte noire » si sombre et si complexe que leurs tentatives pour en éclairer les processus ont échoué. […]

La manipulation de l'intelligence artificielle est un moyen puissant de manipuler l'esprit des masses. Elle ouvre également de nouvelles possibilités dans le domaine de la guerre avancée. Celui qui comprend cette technologie dispose d'un avantage considérable dans le monde. Il semble certain que quelques-uns exploiteront le côté sombre de l'IA.

Daniel 8 : 23 prophétise l'apparition d'un « roi impudent et artificieux », ou d'un dictateur mondial, qui fera des ravages dans le monde entier. La Bible décrit les dégâts considérables que causera cet homme à venir (par exemple, Apocalypse 13 et Apocalypse 17). Des exemples tels que Mythos montrent le type d'armes puissantes dont cet homme pouvait disposer. Ces technologies sont disponibles dès maintenant.