Le développement de l'IA peut-il être « ralenti » ?

Bonjour, 

Samedi, les plus grands rivaux du secteur technologique se sont mis d'accord sur un point pour la première fois : les machines qu'ils s'empressent de concevoir pourraient être trop dangereuses, et il serait donc nécessaire de marquer une pause dans leur développement. 

• Mais il est tout à fait clair que les forces qui s'opposent à une pause véritablement significative sont nettement supérieures. La seule façon de ralentir l'IA est d'agir ensemble, et rien sur Terre ne peut amener des rivaux à agir de concert sur un sujet aussi crucial et coûteux. 

Cet aveu est sans précédent. Dans un essai de 3 800 mots publié samedi matin, Dario Amodei, PDG d'Anthropic, a déclaré que le développement de l'IA devait être « ralenti ». Il a averti que, dans les six mois, un agent d'IA malveillant pourrait prendre le contrôle de l'ensemble d'Internet avec un botnet persistant, causant des centaines de milliards de dollars de dommages.  

• Quelques heures après, Elon Musk, créateur de Grok a déclaré que « Dario a raison », et Sam Altman d’OpenAI a écrit « Je suis d’accord ;  […] nous devons ralentir la progression de technologie de pointe ». Demis Hassabis de Google DeepMind a également apporté son soutien. Ces trois entreprises ne parviennent généralement pas à se mettre d'accord sur l'heure de la journée.  

• Cette proposition est intervenue quelques jours seulement après la démission d'un chercheur d'Anthropic, qui avait averti que ces entreprises jouaient avec l'avenir de la civilisation.  

Pas si vite que ça :  La proposition de Dario Amodei visant à « modérer le rythme en technologie de pointe » comporte trois étapes. Elles démontrent immédiatement l'impossibilité du défi : 

La première : Intégrer des évaluateurs externes dans les laboratoires. Dario Amodei a déclaré qu'Anthropic le ferait unilatéralement et immédiatement. C’est une excellente nouvelle, mais il est évident que les contrôles de sécurité d’une seule entreprise ne peuvent pas encadrer l’ensemble du secteur. 

• Cela ressort clairement d'un rapport d'Anthropic du 10 septembre, qui détaille plusieurs menaces que la société a réussi à arrêter, dont cinq tentatives de scientifiques d'utiliser Claude pour des recherches à double usage susceptibles de servir à la mise au point d'armes biologiques. Pendant huit mois, des scientifiques ont utilisé des VPN et des comptes déguisés pour contourner les blocages géographiques et solliciter l'aide de Claude dans le cadre de travaux d'amplification de fonction portant sur le chikungunya et la grippe aviaire, de recherches sur les orthopoxvirus et de la refonte de toxines. Dans l'un des cas, on demandait à Claude de rédiger une subvention pour des recherches sur le gain de fonction du chikungunya qui auraient été menées dans un institut de recherche militaire. 

• Dans un autre cas, lorsque Claude a refusé, le chercheur a simplement adressé la demande à une IA concurrente dotée de protections moins strictes.  

La deuxième étape : Obtenir de Washington une dérogation aux règles antitrust afin que les concurrents puissent coordonner légalement les normes de sécurité. Or, c'est peu probable que cela aboutisse.  

• Interrogé le 13 septembre sur la pause, le président Trump l'a rejetée. « Celui qui gagne en IA gagne tout », a-t-il déclaré. (Comment « gagner en IA » ? Il n'y a pas de ligne d'arrivée. Et que gagne-t-on ?)  

• David Sacks, coprésident du cabinet des conseillers de Trump en matière de science et de technologie, a écrit avec confiance que les entreprises n’avaient pas besoin de l’autorisation du gouvernement pour ralentir leurs activités. 

La troisième étape, dont Dario Amodei a lui-même admis que cela pourrait être impossible : Convaincre les gouvernements autoritaires, principalement la Chine, d'accepter des lignes rouges concernant les armes biologiques et la capacité de l'IA de s'auto-améliorer. 

• Le même week-end, lors du sommet des BRICS, Xi Jinping a appelé à un « cadre de gouvernance mondiale de l'IA fondé sur le consensus », puis a promis que la Chine contribuerait à la constitution d'un bloc d'IA open source avec la Russie, l'Iran et huit autres membres.  

• Des modèles chinois tels que Qwen et Kimi K3 rivalisent déjà avec les meilleurs modèles américains, pour une fraction de leur coût. L'offensive de Pékin dans le domaine de l'IA et de la robotique est au cœur de sa stratégie économique. Un accord visant à fixer le rythme qui ne fait que ralentir le pays en tête joue parfaitement en faveur de la Chine. 

Le « piège de Moloch » est réel.  C'est pourquoi les efforts visant à ne tirer que les avantages de l'IA tout en éliminant les menaces civilisationnelles qu'elle fait peser sont voués à l'échec.  

• L'entente entre ces entreprises de pointe est fragile et facilement compromise par des intérêts personnels. Il est vain d'espérer que le gouvernement fédéral fasse respecter la discipline : l'administration Trump ne croit même pas que ces menaces soient réelles. Et l'idée d'amener la Chine à coopérer pour limiter ses propres pouvoirs est un rêve utopique. 

Le savoir sans caractère :  Le pouvoir brut évolue plus vite que les humains qui le manient ne peuvent le maîtriser. L'ingéniosité humaine, non freinée par la sagesse ni par la soumission à Dieu, ne s'arrête pas d'elle-même. En vérité, l'avertissement de Jésus-Christ concernant la menace d'extinction de l'humanité, en l'absence d'intervention divine (Matthieu 24 : 21-22), apparaît de plus en plus clairement.

La Russie menace de lancer une attaque nucléaire contre la Lituanie : Si la Lituanie choisit d’accueillir des armes nucléaires sur son territoire, le pays sera placé « dans le collimateur » des armes nucléaires russes, a déclaré vendredi le porte-parole du Kremlin, Dmitri Peskov. Sa déclaration intervient alors que le Parlement lituanien examine cette semaine la levée de l'interdiction constitutionnelle du déploiement d'armes nucléaires dans le pays. Pour comprendre comment l'agression russe contribue à pousser l'Europe à assumer la posture annoncée par la prophétie biblique, lisez « La guerre de la Russie contre l'Ukraine refaçonne l'Europe ». 

Élections en Suède : trop serrées pour un résultat définitif : Les résultats provisoires des élections suédoises du 13 septembre laissent prévoir que les partis de gauche remporteront 176 des 349 sièges du Parlement, soit une majorité de trois. Les Sociaux-démocrates de centre-gauche, le plus grand parti, ont connu leurs pires résultats depuis plus de 100 ans. Le gouvernement actuel, dirigé par les Modérés de centre-droit en coopération avec les Démocrates de Suède, parti d'extrême droite, devrait perdre sa majorité, les Démocrates de Suède ayant perdu du soutien pour la première fois depuis leur entrée au Parlement en 2010. Les Modérés n'ont toutefois pas perdu de soutien en raison de leur coopération avec les Démocrates de Suède, contrairement à ce que certains avaient prévu. Les résultats officiels devraient être annoncés mercredi.

Le Canada souhaite devenir « membre associé » de l'UE : Le Premier ministre canadien Mark Carney a déclaré dimanche que le Canada ne souhaitait pas devenir membre de l'Union européenne, pourtant il cherche à conclure « une alliance unique avec l'Union européenne ». Selon le Wall Street Journal , le Canada envisage de devenir un « membre associé », un nouveau titre pour une relation plus étroite avec l'Union. Alors que le Canada espère que cette relation lui permettra de devenir plus indépendant des États-Unis, la Bible prévient que l'UE dominée par l'Allemagne trahira non seulement les États-Unis, mais le Canada aussi.

Les médias s'en prennent au juré dissident de l'affaire Clancy : Vendredi, l'émission américaine  CBS Mornings  a identifié le juré dissident unique qui a refusé de déclarer Lindsay Clancy non coupable pénalement de l'étranglement de ses trois enfants, qu'elle a reconnu, pour cause d'aliénation mentale. Ce même jour, NBC10 Boston a rapporté des antécédents d'allégations de violence domestique à son encontre, bien qu'aucune charge n'ait été mentionnée. La divulgation publique d’informations privées ou d’identification d’une personne sans son consentement est appelée le « doxxing », et elle est souvent utilisée comme tactique d’intimidation.