Un nouveau défaut épouvantable de l'IA

Alors que les mégacorporations déversent des sommes historiques pour faire progresser l'IA aussi rapidement que possible, les mises en garde contre les conséquences involontaires de la nouvelle technologie continuent d'être ignorées. Ce matin, Axios en a rapporté une autre : la pédopornographie générée par l'IA à partir de photos accessibles au public sur les réseaux sociaux.

Une vague d'images fausses mais socialement destructrices submerge les parents, les écoles et les forces de l'ordre dans tout le pays. 

Cette semaine, un homme de Virginie a été condamné à 35 ans de prison ferme pour avoir copié des photos d'enfants qu'il connaissait et utilisé un outil d'intelligence artificielle pour en créer des images pornographiques. […] Des incidents similaires se sont produits un peu partout, de l'Iowa à la banlieue de Philadelphie en passant par Long Island. 

Au début de l'année, un adolescent du Kentucky s'est suicidé après avoir été victime d'un chantage aux images générées par l'IA, selon ABC News. 

Axios a cité une enquête qui révèle qu'un adolescent sur dix a déclaré connaître personnellement quelqu'un qui a fait l'objet de fausses images de nu générées par l'IA. Souvent, l'auteur est un camarade de classe. 

Face à la progression rapide des capacités de l'IA, les régulateurs ont du mal à tenir le rythme. En l'absence de moralité et d'autonomie, la technologie met des outils extraordinairement puissants à la disposition d'acteurs malveillants et incontrôlés, avec des effets désastreux trop nombreux pour être dénombrés : 

• L'utilisation de l'IA a complètement bouleversé l'éducation ; les étudiants s'en remettent largement à elle pour compléter leurs devoirs, faire leurs exercices de mathématiques, et même pour penser. 

• Les interactions avec les chatbots ou les assistants virtuels de l'IA remplacent les relations humaines significatives, y compris les « relations amoureuses ». 

• L'utilisation obsessionnelle de l'IA a créé un comportement de démence qui a fait perdre aux gens leur emploi, leur mariage et leurs amis, et qui les a parfois mis en prison.  

• Des chatbots d'IA amoraux ont donné aux gens des conseils désastreux, encourageant les troubles alimentaires, les décisions financières ruineuses, la paranoïa, la violence à l'égard d'autrui, et même le suicide. 

Il est impossible de prévoir à quel point les effets de l'adoption par la société de cette technologie puissante et anarchique seront révolutionnaires et étendus. Comme Dieu l'a déclaré à propos de la tour de Babel, « maintenant rien ne les empêcherait de faire tout ce qu'ils auraient projeté », même les maux les plus odieux. N'attendez pas des entreprises dont le dieu est l'argent ou des gouvernements avides de pouvoir qu'ils fassent preuve de retenue, quel qu'en soit le coût pour les citoyens.