Make this article seo compatible, Let there be subheadings for the article, be in french, create at least 700 words
- Il y a une chance que le développement de l’IA devienne « catastrophique », a déclaré Yoshua Bengio au New York Times.
- « Les systèmes d’aujourd’hui ne sont pas près de poser un risque existentiel », mais ils le pourraient à l’avenir, a-t-il déclaré.
- Le développement rapide de l’IA a suscité un débat houleux parmi les scientifiques, les PDG de la technologie et le public.
L’avenir de l’intelligence artificielle reste trouble, mais il y a une chance que les choses deviennent « catastrophiques », a déclaré un expert dans le domaine au New York Times.
« Les systèmes d’aujourd’hui sont loin de poser un risque existentiel », a déclaré Yoshua Bengio, professeur à l’Université de Montréal, à la publication. Le soi-disant « parrain » de l’IA faisait partie de l’équipe de trois personnes qui a remporté le prix Turing en 2018 pour ses percées dans l’apprentissage automatique.
« Mais dans un, deux, cinq ans ? Il y a trop d’incertitudes », a poursuivi Bengio. « C’est le problème. Nous ne sommes pas sûrs que cela ne passera pas un moment où les choses deviendront catastrophiques. »
Anthony Aguirre, cosmologiste à l’Université de Californie à Santa Cruz, a déclaré au Times qu’à mesure que l’IA devenait plus autonome, elle pourrait « usurper la prise de décision et la réflexion des humains actuels et des institutions dirigées par des humains ».
« À un moment donné, il deviendrait clair que la grosse machine qui dirige la société et l’économie n’est pas vraiment sous contrôle humain, et qu’elle ne peut pas non plus être arrêtée, pas plus que le S&P 500 ne pourrait être arrêté », a-t-il poursuivi.
Les experts ont averti qu’il fallait accorder plus d’attention à l’éthique de l’IA et beaucoup ont appelé à une réglementation mondiale plus stricte de la technologie. La récente prolifération de l’IA s’est concentrée sur des formes génératives telles que ChatGPT d’OpenAI et Microsoft Bing.
Bien qu’il existe de nombreux cas d’utilisation positifs, notamment en aidant à résumer des notes de recherche, à rédiger des listes de courses et à rédiger des demandes d’emploi, on craint que la technologie ne se développe trop rapidement. Il est connu qu’il développe des biais, des « hallucinations » et conduit à la propagation d’images deepfakes.
Aguirre était l’un des fondateurs du Future of Life Institute, qui a publié en mars une lettre ouverte appelant à une pause de six mois sur le développement avancé de l’IA. Les signataires comprenaient Bengio, Elon Musk et le cofondateur d’Apple, Steve Wozniak.
Bengio et les PDG des laboratoires d’IA OpenAI, DeepMind et Anthropic ont signé le mois dernier une déclaration d’une phrase du Center for AI Safety qui disait : « Atténuer le risque d’extinction de l’IA devrait être une priorité mondiale aux côtés d’autres risques à l’échelle de la société. comme les pandémies et la guerre nucléaire.
Des personnalités influentes de la technologie et des affaires ont pesé dans le débat. L’ancien PDG de Google, Eric Schmidt, a déclaré au Conseil des PDG du Wall Street Journal qu’il craignait que « raisonnablement bientôt » l’IA ne soit en mesure de « trouver des exploits zero-day dans les problèmes de cyber ou de découvrir de nouveaux types de biologie ».
Mais d’autres ont été considérablement plus positifs que d’autres quant au développement de la technologie, comme Bill Gates, qui a noté que même s’il y avait des inquiétudes « compréhensibles » concernant l’IA, cela pourrait avoir des effets positifs majeurs sur les soins de santé, l’éducation et la lutte contre la crise climatique.
Marc Andreessen s’est exprimé encore plus fermement dans un article de blog la semaine dernière dans lequel il a mis en garde contre « une panique morale à part entière à propos de l’IA » et a décrit « les doomers du risque de l’IA » comme une « secte ».
« L’IA ne vouloiril n’a pas butsil ne veut pas vous tuerparce que ce n’est pas vivant« , a-t-il écrit. « Et l’IA est une machine – ne va pas plus prendre vie que votre grille-pain. »
« Le développement et la prolifération de l’IA – loin d’être un risque que nous devrions craindre – est une obligation morale que nous avons envers nous-mêmes, envers nos enfants et envers notre avenir », a poursuivi Andreessen.