Méfions-nous de nos maîtres IA

B onjour !

L'humanité se dirige à grands pas vers un avenir dominé par l'IA. Nous n'avons aucune idée de ce à quoi cela ressemble ou de ce que cela signifie.

Dans un essai percutant publié lundi, Jack Clark, cofondateur d'Anthropic, affirme que nous approchons d'un tournant spectaculaire : des machines capables de concevoir, de former et d'améliorer leurs propres remplaçants sans aide humaine. Il estime qu'il y a plus de 60 pour cent de chances que la recherche et le développement entièrement automatisés, où l'IA s'occupe de l'ensemble du processus de création d'une meilleure IA,, puisse avoir lieu d'ici la fin de l'année 2028. Selon lui, il s'agit là d'un point de non-retour menant à une nouvelle ère imprévisible.

• Ses capacités de codage explose. Les meilleurs modèles d'aujourd'hui relèvent des défis de programmation difficiles, et les ingénieurs des principaux laboratoires s'appuient désormais sur l'IA pour la majeure partie de leur travail de codage, y compris les tests et les vérifications.

• L'IA peut effectuer des tâches plus difficiles pendant plus longtemps. Les premiers modèles nécessitaient une intervention humaine après quelques secondes ou quelques minutes. Aujourd'hui, ils peuvent travailler de manière autonome pendant des heures et leur capacité augmente rapidement. Certains experts prévoient que d'ici la fin de l'année, les agents d'intelligence artificielle pourront gérer seuls des projets d'une semaine.

• Le travail scientifique fastidieux est automatisé. L'IA s'améliore considérablement pour ce qui est de l'apprentissage à partir de documents de recherche, de la reproduction d'expériences et de l'optimisation de processus de formation complexes.

Les optimistes se contentent d'évoquer la façon dont les progrès de l'IA conduiront à des avancées rapides dans de nombreux domaines.

Les réalistes estiment que cela soulève de sérieuses questions en matière de sécurité et de contrôle.

• La grande question est la suivante : Comment s'assurer que les systèmes d'IA qui s'améliorent d'eux-mêmes restent sous le contrôle de l'homme ?

Un exemple concret : Claude Mythos Preview est un nouveau modèle d'IA puissant qui excelle dans la recherche et l'exploitation autonomes de vulnérabilités logicielles dans des systèmes informatiques critiques. Le mois dernier, il a franchi des obstacles clés, ce qui a surpris même ses développeurs.

• Le risque que ses capacités offensives de cybersécurité sans précédent permettent des cyberattaques dévastatrices est si élevé qu'Anthropic n'a mis le modèle à la disposition que d'un groupe limité de partenaires de confiance pour aider à corriger les vulnérabilités dans les infrastructures clés avant que des acteurs malveillants ne puissent les exploiter.

• Ce n'est qu'une question de temps avant que d'autres entreprises et d'autres pays n'atteignent ces capacités. C'est-à-dire des mois, des semaines ou des jours.

Pendant ce temps, l'armée américaine se lance pleinement dans l'IA. Vendredi dernier, le Pentagone a annoncé des partenariats avec huit grandes entreprise (Google, OpenAI, Microsoft, Amazon, NVIDIA, SpaceX, Reflection et Oracle) afin d'intégrer l'IA dans ses réseaux les plus confidentiels.

• Elle a déjà introduit de manière agressive l'IA grand public dans les opérations de défense. Cette technologie est directement intégrée dans les systèmes de ciblage les plus sensibles de l'armée américaine.

• Pensez-y : Les mêmes moteurs d'IA de votre téléphone qui vous suggèrent avec certitude où aller dîner peuvent être tout aussi confiants lorsqu'ils vous suggèrent des cibles de munitions.

Des inquiétudes en matière d'éthique sont partout.

• Anthropic a notamment refusé que ses modèles soient utilisés pour des armes autonomes ou la surveillance domestique, ce qui a conduit le Pentagone à l'écarter de certains contrats.

• Mrinank Sharma, responsable de la recherche en matière de garanties chez Anthropic, a démissionné en février, avertissant que « le monde est en péril ». Il a dénoncé les pressions exercées pour mettre de côté les préoccupations en matière de sécurité face aux risques de l'IA en rapide évolution, tels que le bioterrorisme.

L'humanité dans son ensemble investit des sommes colossales pour faire progresser cette technologie aussi rapidement que possible, chaque nation cherchant à devancer les ennemis qui l'utiliseraient contre elle.

• Des résultats calamiteux semblent inévitables, y compris peut-être le suicide de la civilisation.

C'est la logique inévitable et ridicule de la condition humaine. C'est pourquoi les avertissements de Jésus-Christ concernant notre monde qui culminera dans une souffrance sans précédent doivent être pris en compte.

Nouvelles sur la guerre en Iran 

• Les chances d'un accord reste intacte : Certains rapports indiquent que les États-Unis et l'Iran sont plus près de mettre fin à la guerre qu'ils ne l'ont jamais été depuis le début des hostilités, le 28 février.

• Les forces américaines ont subi plus de dégâts que ce qui avait été annoncé précédemment, a affirmé mercredi le Washington Post après avoir analysé les images satellites disponibles. On dénombre au moins 228 structures endommagées et plus de 400 personnes blessées. Ces chiffres sont supérieurs à ceux indiqués par le gouvernement américain.

• Le porte-avions français se dirige vers le détroit d'Ormuz : Le Charles de Gaulle, porte-avions nucléaire français, et son groupe de frappe ont transités par le canal de Suez et sont entrés dans la mer Rouge pour une éventuelle mission dans le détroit d'Hormuz, a annoncé mercredi le président Emmanuel Macron. Un navire chasseur de mines allemand est en route pour rejoindre le groupe 2 de lutte contre les mines de l'OTAN en Méditerranée dans un but similaire. Les deux pays ont souligné qu'ils n'interviendraient pas avant la fin officielle de la guerre.

Les priorités de l'Allemagne en matière d'intelligence artificielle l'emportent sur celles de l'UE : Le Parlement européen est parvenu jeudi à un accord provisoire qui cède à l'agenda de l'Allemagne en matière d'intelligence artificielle, malgré les désaccords émis par dix autres pays de l'UE. Au fil des ans, l'Union européenne a institué des réglementations étendues sur les technologies de l'information au nom de la protection de la vie privée des utilisateurs. Pourtant, cette exemption pour le développement de l'IA industrielle allemande montre non seulement que ces réglementations sont un outil géopolitique utilisé par l'Europe (en grande partie contre les États-Unis), mais aussi qu'elles sont soumises à la nation dominante de plus en plus importante de l'Europe : l'Allemagne. Les prophéties bibliques indique que les technologies avancées telles que l'IA seront transformées en armes.

Le Soudan a rappelé son ambassadeur en Éthiopie mardi, affirmant que quatre frappes de drones à ses frontières, dont une attaque contre l'aéroport de Khartoum, provenaient d'Éthiopie. Dans le passé, l'Éthiopie a permis aux Forces de soutien rapide (RSF), un groupe rebelle soudanais, de s'entraîner et de lancer des attaques à partir de l'intérieur de ses frontières. Cette décision intervient quelques mois seulement après que le Soudan a rappelé son ambassadeur au Kenya après que ce pays a permis aux rebelles du FSR d'organiser des réunions visant à établir un gouvernement soudanais rival. Ces événements ont non seulement alimenté les craintes que la guerre civile au Soudan et les tensions en Éthiopie ne se propagent au-delà des frontières internationales, mais ils s'inscrivent également dans une tendance plus large qui pourrait mettre en péril la stabilité relative de toute la région de la mer Rouge et contribuer à l'accomplissement des prophéties bibliques.

Une épidémie d'hantavirus sur un bateau de croisière suscite des craintes : Au moins 23 passagers du MV Hondius, infecté par l'hantavirus, ont quitté le navire de croisière fin avril et sont rentrés chez eux en Australie, en Angleterre, aux Pays-Bas, à Taïwan et aux États-Unis sans savoir qu'ils avaient pu être exposés à l'hantavirus, qui a un taux de mortalité de 40 pour cent. Jusqu'à présent, trois personnes sont décédées, une est toujours dans un état critique en soins intensifs en Afrique du Sud, et d'autres présentent des symptômes plus légers. Les autorités sanitaires tentent de contacter toutes les personnes qui ont débarqué du navire. Jésus-Christ a prophétisé dans Matthieu 24 que les maladies infectieuses feraient partie des signes funestes qui précéderaient Sa seconde venue.

Barack Obama réapparaît pour critiquer le président Trump : L'ancien président Barack Obama a augmenté la fréquence de ses déclarations publiques au cours des derniers mois, affirmant que Trump avait divisé le pays après le meurtre de Charlie Kirk, qualifiant de « violence contre la vérité » ses déclarations sur l'autisme, et disant que les républicains préféraient fermer le gouvernement plutôt que de donner aux gens des soins de santé. De nombreux démocrates se réjouissent de sa rhétorique alors que le parti manque d'un dirigeant clair deux ans après le début du second mandat de Trump. Le rédacteur en chef de la Trompette, Gerald Flurry, a identifié Obama comme le pouvoir qui a fondamentalement transformé les États-Unis pendant sa présidence et a usurpé la présidence elle-même par l'intermédiaire de Joe Biden. Il a également écrit dans la Trompette de septembre-octobre 2024 que Dieu « commence à faire taire cet homme ! Le pouvoir de Barack Obama diminue sous nos yeux. » La réapparition d'Obama ne fait que souligner le fait qu'il n'exerce plus la même influence sur l'« État profond », ainsi que la culture et la politique américaines.