Make this article seo compatible,Let there be subheadings for the article, be in french, create at least 700 words
WASHINGTON (AP) – Sonner l’alarme sur l’intelligence artificielle est devenu un passe-temps populaire à l’ère du ChatGPT, repris par des personnalités aussi variées que l’industriel Elon Musk, l’intellectuel de gauche Noam Chomsky et l’homme d’État à la retraite de 99 ans Henry Kissinger.
Mais ce sont les préoccupations des initiés de la communauté de recherche en IA qui attirent particulièrement l’attention. Un chercheur pionnier et le soi-disant « parrain de l’IA » Geoffrey Hinton a quitté son poste chez Google afin de pouvoir parler plus librement des dangers de la technologie qu’il a contribué à créer.
Au cours de ses décennies de carrière, le travail de pionnier de Hinton sur l’apprentissage en profondeur et les réseaux de neurones a contribué à jeter les bases d’une grande partie de la technologie d’IA que nous voyons aujourd’hui.
Certains des dangers des chatbots IA sont « assez effrayants », a déclaré Hinton à la BBC. « En ce moment, ils ne sont pas plus intelligents que nous, pour autant que je sache. Mais je pense qu’ils le seront bientôt.
Dans une interview avec MIT Technology ReviewHinton a également souligné les « mauvais acteurs » qui peuvent utiliser l’IA d’une manière qui pourrait avoir des effets néfastes sur la société – comme la manipulation d’élections ou l’incitation à la violence.
Hinton, 75 ans, dit qu’il a pris sa retraite de Google afin de pouvoir parler ouvertement des risques potentiels en tant que personne qui ne travaille plus pour le géant de la technologie.
« Je veux parler des problèmes de sécurité de l’IA sans avoir à me soucier de la façon dont elle interagit avec les activités de Google », a-t-il déclaré au MIT Technology Review. « Tant que je suis payé par Google, je ne peux pas faire ça. »
Google a confirmé que Hinton avait pris sa retraite après 10 ans à superviser l’équipe de recherche Google à Toronto.
Hinton n’a pas immédiatement répondu à une demande de commentaire de l’Associated Press.
Au cœur du débat sur l’état de l’IA est de savoir si les principaux dangers sont futurs ou présents. D’un côté, des scénarios hypothétiques de risque existentiel causés par des ordinateurs qui remplacent l’intelligence humaine. De l’autre, il y a les inquiétudes concernant la technologie automatisée qui est déjà largement déployée par les entreprises et les gouvernements et qui peut causer des dommages dans le monde réel.
« Pour le meilleur ou pour le pire, ce que le moment du chatbot a fait est de faire de l’IA une conversation nationale et une conversation internationale qui n’inclut pas seulement les experts et les développeurs de l’IA », a déclaré Alondra Nelson, qui dirigeait jusqu’en février le Bureau de la science et de la science de la Maison Blanche. La politique technologique et ses efforts pour élaborer des lignes directrices sur l’utilisation responsable des outils d’IA.
« L’IA n’est plus abstraite, et nous avons ce genre d’ouverture, je pense, pour avoir une nouvelle conversation sur ce à quoi nous voulons un avenir démocratique et un avenir sans exploitation avec la technologie », a déclaré Nelson dans une interview le mois dernier. .
Un certain nombre de chercheurs en IA ont depuis longtemps exprimé des inquiétudes concernant les préjugés raciaux, sexistes et autres dans les systèmes d’IA, y compris les grands modèles de langage basés sur du texte qui sont formés sur d’énormes trésors d’écriture humaine et peuvent amplifier la discrimination qui existe dans la société.
« Nous devons prendre du recul et vraiment réfléchir aux besoins qui sont mis au premier plan dans la discussion sur les risques », a déclaré Sarah Myers West, directrice générale de l’AI Now Institute à but non lucratif. « Les dommages causés par les systèmes d’IA aujourd’hui ne sont vraiment pas uniformément répartis. Cela exacerbe considérablement les schémas d’inégalité existants.
Hinton était l’un des trois pionniers de l’IA à avoir remporté le prix Turing en 2019, un honneur qui est devenu la version du prix Nobel de l’industrie technologique. Les deux autres lauréats, Yoshua Bengio et Yann LeCun, ont également fait part de leurs inquiétudes quant à l’avenir de l’IA.
Bengio, universitaire et prioneer de l’IA, a signé une pétition fin mars appelant les entreprises technologiques à accepter une pause de 6 mois sur le développement de puissants systèmes d’IA, tandis que LeCun, un scientifique de haut niveau en IA chez Meta, la société mère de Facebook, a adopté une approche plus optimiste.
_______
AP Technology Reporter Matt O’Brien a rapporté de Cambridge, Massachusetts.