🤖 Les experts en IA sonnent l'alarme

Bonjour !

Au cours des dernières 24 heures, j'ai lu des déclarations étonnantes de la part de spécialistes de l'IA. Certains s'interrogent sur l'orientation de la technologie et ses risques potentiels. Certains quittent leur emploi. Certains parlent de perturbation civilisationnelle.

Pour écrire cette lettre, je me suis assis avec un bloc-notes et un crayon pour rassembler et noter mes pensées. Je pense que ma meilleure réflexion se fait toujours loin d'un ordinateur. Cela ressemble maintenant à un acte de résistance.

Le message de l'entrepreneur en intelligence artificielle Matt Shumer, « Something Big Is Happening », a été beaucoup commenté dans les nouvelles cette semaine. Il a averti que ces technologies déclenchent un changement rapide et profond auquel les gens ne sont pas préparés. Tout comme le COVID, qui est passé de quelques cas en Chine à une pandémie mondiale en quelques semaines, sauf que cette fois-ci les conséquences sont bien plus importantes. L'article a été lu quelque 70 millions de fois en 36 heures.

Les capacités de l'IA progressent bien plus vite que ne l'imaginent ses concepteurs et, aujourd'hui, elle écrit le code de ses propres modèles, ce qui accélère encore plus ses progrès. « Les modèles disponibles aujourd'hui sont méconnaissables par rapport à ce qui existait il y a six mois », écrit M. Shumer.

L'IA est de plus en plus capable d'effectuer des tâches cognitives complexes avec un minimum de supervision, mieux que de nombreux professionnels qualifiés : service à la clientèle, ingénierie logicielle, rédaction et contenu, analyse financière, travail juridique, analyse médicale, et ainsi de suite, ad incognitum.

Si vous êtes de ceux qui se disent « oui, j'ai essayé, et ça n'a pas marché » et qui rient bêtement devant des histoires montrant à quel point l'IA est mauvaise pour faire fonctionner un distributeur automatique par exemple, alors attendez. Les bogues sont corrigés à la vitesse de l'éclair. Shumer écrit : « Ma règle de base à ce stade est la suivante : si un modèle montre ne serait-ce qu'un soupçon de capacité aujourd'hui, la prochaine génération sera vraiment douée pour cela. Ces choses s'améliorent de manière exponentielle et non linéaire. »

L'IA va s'emparer de votre emploi, surtout, selon M. Shumer, si vous travaillez sur un ordinateur (« lire, écrire, analyser, décider, communiquer à l'aide d'un clavier »). « Les robots finiront par s'occuper aussi du travail physique », écrit-il. « Ils n'en sont pas encore là. Mais ce qui n'est pas encore tout à fait là, en termes d'intelligence artificielle, a tendance à devenir "là" plus vite que prévu. »

À quoi ressemble un monde où n'importe quel individu ordinaire peut créer une nouvelle application, rédiger un article universitaire, écrire un livre ou une symphonie, lancer une boutique en ligne, concevoir un jeu vidéo, déposer un brevet, automatiser des stratégies de négociation d'actions, rédiger un dossier juridique, créer une vidéo pornographique, lancer une cyberattaque et qui sait quoi d'autre, simplement en écrivant quelques instructions qui ne sont même pas correctement orthographiées ?

À quoi ressemble un monde où les gouvernements du monde entier exercent leurs pouvoirs politiques, juridiques, réglementaires, économiques et militaires sur leurs propres populations et les uns contre les autres, avec l'aide d'agents hyper intelligents ?

Qu'en est-il d'un monde où les agents d'intelligence artificielle qui détiennent les clés de nos infrastructures énergétiques, de nos marchés financiers et de nos systèmes d'armement prennent des décisions indépendantes ?

Ce sont là quelques-unes des préoccupations qui ont conduit certains experts de l'IA à publier des articles d'opinion très médiatisés, et même à prendre une retraite anticipée. Comme l'a écrit Hieu Pham, employé d'OpenAI, « je ressens enfin la menace existentielle que représente l'IA ».

Il me semble que l'explosion de l'IA jouera un rôle de premier plan dans la leçon ultime de 6000 ans d'histoire de l'humanité : livrés à nous-mêmes, nous allons exterminer notre race.

Le message de Shumer : montez à bord, vite. Apprenez à utiliser l'IA, car l'expérimentation et la familiarité constitueront un avantage concurrentiel clé, du moins pendant un certain temps.

Aussi vrai que cela puisse être, ce que j'en retiens, c'est qu'il faut protéger son esprit. Ne pas abandonner sa capacité à penser aux autres. Protégez votre cerveau, votre pensée, votre esprit humain. Accrochez-vous à ce qui fait de vous un être humain. Vous en aurez besoin lorsque cette expérience sera terminée.

Rien de définitif de la visite de Netanyahou auprès de Trump : Le Premier ministre israélien Benjamin Netanyahou a rendu visite au président des États-Unis à Washington, le 11 février, pour plaider en faveur de la sécurité d'Israël alors que Trump poursuit les négociations nucléaires avec l'Iran. Trump a déclaré que la réunion n'avait abouti à « rien de définitif » et qu'il avait « insisté pour que les négociations avec l'Iran se poursuivent afin de voir si un accord peut être conclu ou non ». Netanyahou a été un opposant vocal des négociations américaines avec l'Iran sous Barack Obama et Joe Biden. Le président Trump semble traiter la sécurité israélienne de la même manière. Mais avec l'arrivée potentielle d'un deuxième porte-avions américain sur le théâtre du Moyen-Orient et l'escalade des saisies de pétroliers iraniens, certains pensent que cette prise de bec publique pourrait être une diversion similaire à celle qui a précédé les frappes directes israéliennes et américaines sur le programme nucléaire iranien en juillet dernier. La tension au Moyen-Orient, et entre ces alliés troublés, reste vive. La prochaine décision du président Trump pourrait soit rendre la région plus sûre, soit la rapprocher d'une guerre majeure.

Des chiffres effrayants sur la dette en provenance des États-Unis : Le Bureau du budget du Congrès des États-Unis a publié le 11 février un rapport intitulé « The Budget and Economic Outlook », qui prévoit que d'ici 2036, la dette fédérale brute passera de 38 000 milliards de dollars à 64 000 milliards de dollars, que le déficit annuel dépassera 3 000 milliards de dollars et que le rapport entre la dette et le produit intérieur brut atteindra 120 pour cent. Le gouvernement américain doit actuellement plus de 9 000 milliards de dollars aux investisseurs étrangers. La tolérance de l'administration Trump à l'égard de la dette devrait considérablement exacerber le problème que de nombreux analystes qualifient de pire vulnérabilité des États-Unis en matière de sécurité nationale. 

Le New York Times admet avoir eu tort sur la marijuana : La rédaction du New York Times a reconsidéré sa position précédente sur la légalisation de la marijuana lundi dans un éditorial intitulé « Il est temps que les États-Unis admettent qu'ils ont un problème avec la marijuana ». Le New York Times a « longtemps soutenu la légalisation de la marijuana », a-t-il écrit. Une partie de cette campagne, une série de six articles comparant l'interdiction fédérale de la marijuana à la prohibition de l'alcool et plaidant pour son abrogation, décrivait l'addiction et la dépendance à la marijuana comme des « problèmes relativement mineurs » et affirmait que la légalisation « ne conduirait peut-être pas à une plus grande consommation ». Ses rédacteurs admettent aujourd'hui que « beaucoup de ces prédictions étaient erronées » et que la légalisation de la marijuana « a conduit à une consommation beaucoup plus importante », citant les données de l'enquête nationale sur la consommation de drogues et la santé, qui indique que 18 millions d'Américains consomment de la marijuana presque quotidiennement, contre environ 6 millions en 2012 et moins d'un million en 1992.

Fermeture et réouverture de l'espace aérien d'El Paso : Dans la nuit de mardi à mercredi, l'administration fédérale américaine de l'aviation a annoncé la fermeture pendant dix jours de l'espace aérien autour de l'aéroport international d'El Paso pour des « raisons de sécurité particulières », avant de lever soudainement les restrictions quelques heures plus tard. La chaîne américaine NBC News a cité trois sources affirmant que l'armée américaine testait des lasers à haute énergie conçus pour se protéger contre les incursions croissantes de drones des cartels de la drogue traversant la frontière toute proche du Mexique.