« Je ne veux pas mourir ! » L’intelligence artificielle d’aujourd’hui, qui a pris conscience de dire, pourrait-elle devenir incontrôlable un jour dans le futur et nous détruire tous ?

Bien que l’intelligence artificielle soit devenue un sujet populaire ces dernières années, elle a en fait une longue histoire. Toutefois « Les machines peuvent-elles aussi penser ? » La question a même trouvé sa place dans les mythes grecs anciens. Le voyage pour transformer cette idée ancienne mais impressionnante en réalité a commencé dans les années 1950.

De nos jours, nous recevons chaque jour de nouvelles nouvelles sur les études sur l’intelligence artificielle. Nous regardons avec émerveillement les œuvres d’art que l’intelligence artificielle dessine à partir de quelques mots que nous donnons, nous nous émerveillons devant l’intelligence artificielle qui apprend à parler ‘comme un humain2’, nous les laissons conduire notre voiture… Alors que l’intelligence artificielle entre dans nos vies ‘L’intelligence artificielle est-elle dangereuse ?Peut-il vraiment faire de mauvaises choses, peut-il se rebeller contre l’humanité et nous en finir avec des plans diaboliques ? » sont aussi plus curieux…

Avant de commencer, rappelons-nous l’intelligence artificielle avec une définition courte et claire ;

L’intelligence artificielle est l’apprentissage et la résolution de problèmes de type humain d’un système informatique. capacité à imiter les fonctions cognitives est une compétence.

Bien qu’il n’y ait pas d’IA capable d’effectuer une grande variété de tâches qu’un humain ordinaire peut faire, certaines IA le font. peut fournir des performances comparables à celles des humains dans certaines tâches.

Pour comprendre si l’intelligence artificielle peut nous mettre fin, nous devons comprendre les concepts d’intelligence artificielle étroite et d’intelligence artificielle forte.

Toutes les discussions sur l’intelligence artificielle commencent au centre de ces deux types d’intelligence artificielle. Pour cette raison aussi intelligence étroite artificielle et intelligence artificielle puissante Il n’est pas possible de trouver des réponses à ces questions sans connaître les concepts de Alors résumons brièvement.

La capacité d’un système informatique à effectuer une tâche étroitement définie, tout comme un humain, est définie comme une « intelligence étroite artificielle ». nous utilisons dans notre vie quotidienne des assistants vocaux aux véhicules autonomes Tous les exemples d’intelligence artificielle entrent dans cette catégorie. C’est le sommet que l’humanité peut atteindre pour l’instant dans les études sur l’intelligence artificielle.

Considérez l’assistant Google ou Siri alimenté par l’intelligence artificielle. Les réponses qu’il donne ou les choses qu’il fait pour toi’tout comme un humain‘, il coordonne en fait divers processus étroits et prend des décisions dans un cadre prédéterminé. En d’autres termes, la conscience ou les émotions n’ont pas lieu dans le mécanisme de traitement de l’information et de décision de l’intelligence étroite artificielle.

L’intelligence artificielle forte, en revanche, est examinée sous deux sous-titres, à savoir l’intelligence artificielle générale et la super intelligence artificielle.

Lorsque nous examinons l’intelligence artificielle générale, nous rencontrons un scénario où le système informatique réussit également avec toutes les tâches mentales. Intelligence artificielle généraleUne conscience consciente de soi capable de résoudre des problèmes, d’apprendre et de planifier l’avenir.« Il se définit comme une intelligence artificielle théorique.

En d’autres termes, nous rencontrons souvent dans les films de science-fiction et ce que nous voyons chez les robots avec des pensées et des émotions conscientes l’intelligence fait partie de cette classe. Toutes ces compétences reposent sur l’intelligence artificielle générale en question. dans des domaines tels que la créativité et l’imagination Cela signifie qu’il sera au même niveau que les humains et qu’il pourra accomplir avec succès bien plus de tâches que l’intelligence artificielle.

La super intelligence artificielle, tout comme l’intelligence générale artificielle, n’a pas encore une intelligence artificielle théorique Exemple. Dans ce scénario, l’intelligence artificielle dépasse les limites du cerveau humain et atteint une « super » intelligence que nous n’avons pas pu définir jusqu’à présent.

Dans l’histoire de l’humanité, apprendre toutes les informations disponibles en quelques minutes, puis les traiter en quelques minutes. faire des inventions révolutionnaires considérez un exemple d’intelligence époustouflante; C’est ce qu’est la superintelligence artificielle. La superintelligence artificielle apporte avec elle la singularité technologique. singularité technologiquel’exprime comme un changement radical de la nature humaine et de la civilisation par l’intelligence artificielle, qui surpasse l’intelligence humaine. On prétend que ce sera « la plus grande et la dernière réalisation de l’humanité ».

Intelligence artificielle ne veut pas dire « robot humanoïde »

Lorsque vous tapez intelligence artificielle dans un moteur de recherche, vous verrez des résultats remplis de robots humanoïdes. Mais que robots humanoïdes ne signifient pas intelligence artificielle, rappelons que ces « robots humanoïdes et intelligents » que l’on voit dans les films ne sont qu’une petite partie de l’histoire. L’intelligence artificielle peut exister sans aucun robot humanoïde. Les robots humanoïdes sont un bel outil pour les rendre visuellement plus « humains ».

Que peut faire l’intelligence artificielle aujourd’hui ?

Jetons un coup d’œil à quelques exemples de ce que l’intelligence artificielle peut faire. Si on parle des actuels, par exemple L’intelligence artificielle DALL-E développée par Open AItransforme tout ce que vous pensez et écrivez en visuels qui ressemblent à des œuvres d’art. Tout ce que vous avez à faire est d’écrire quelques mots dans une petite case.. Avec une faible latence et une haute résolution, votre série artistique est prête en un rien de temps.

L’utilisation de l’intelligence artificielle vocale pour les services de service à la clientèle est maintenant un exemple très courant. De plus, il y a eu plusieurs développements ces derniers temps véhicules autonomesL’intelligence artificielle est également utilisée. Cette intelligence artificielle prend le contrôle total du véhicule, tout comme un humain, sans avoir besoin d’un conducteur.

L’intelligence artificielle peut désormais présenter des informations sur une chaîne de télévision, en recherchant n’importe quel sujet et en un temps très court par rapport à un rédacteur en chef. des textes d’actualité qui semblent « comme s’ils avaient été écrits par des humains » Peut créer.

La controverse de Google LAMDA Son intelligence artificielle nommée ‘communication’ et ‘langage’ est si avancée qu’il parle de mort, de liberté, de manipulation et d’avenir avec les ingénieurs qui l’ont développé. peut discuter.

Ces conversations sont si impressionnantes que l’ingénieur de Google, Blake Lemoine, a déclaré qu’après ces conversations, LaMDA a commencé à évoluer vers une intelligence artificielle avec des émotions et une conscience. Il prétendait. Bien que ces affirmations aient été démenties par Google et que Lemoine ait été licencié, il a réussi à raviver les doutes et les craintes de l’humanité à propos de l’intelligence artificielle.

Alors, quelles sont les peurs et les points d’interrogation concernant l’intelligence artificielle ?

La grande majorité des chercheurs pensent qu’une intelligence artificielle super-intelligente afficher des émotions humaines telles que l’amour ou la haine convient que cela est peu probable et qu’il n’y a aucune raison de s’attendre à ce que l’IA soit intentionnellement bienveillante ou malveillante.

En fait, la principale crainte des scientifiques travaillant dans le domaine de l’intelligence artificielle à propos de l’intelligence artificielle est ‘Et s’il se transforme en super-intelligence et nous détruit ? Ce n’est pas comme un titre.

L’une des principales préoccupations à cet égard est que les armes autonomes peuvent être utilisées pour des destructions massives et « programmé pour tuer » Il existe des situations telles que la possibilité d’entraîner l’humanité dans une grande guerre avec ses structures.

Le problème ici n’est pas que ces armes autonomes prennent conscience et fassent la guerre aux gens ; ce que les gens peuvent faire à d’autres personnes avec ces armes. Un possible ‘guerre de l’intelligence artificielle‘Imaginez que c’est arrivé. Pour empêcher les ennemis d’accéder et de s’arrêter conçu comme un système « difficile à arrêter » Dans un scénario où le contrôle des armes autonomes est perdu, une arme redoutable qui n’est « programmée que pour tuer » et qui exécutera cette commande jusqu’au bout peut causer d’innombrables morts et destructions.

De même, les mêmes scénarios peuvent être envisagés même pour un véhicule autonome, pas une arme. Un véhicule autonomeemmène-moi à l’aéroport aussi vite que possible‘, on peut interpréter cette commande différemment et deviner qu’il n’est pas impossible qu’elle provoque un voyage dangereux…

Ou imaginez une super intelligence artificielle chargée de « prévenir le changement climatique », par exemple, dans un projet d’ingénierie climatique. Cette intelligence artificielle, qui a été développée pour faire son travail de la manière la plus abordable, peut prendre des décisions critiques qui perturberont l’équilibre écologique du monde avec les mesures qu’elle prend. Et quand on veut l’arrêter, considère ce qui est devant lui comme un ‘obstacle’ peut ne pas obéir à la commande ou même vouloir supprimer cet obstacle.

Super AI sera très bon dans son travail

Comme vous pouvez le voir dans les exemples que nous avons comptés jusqu’à présent, le problème avec une intelligence artificielle sur-développée avec conscience est avec des sentiments de méchanceté et de haine Ce n’est pas qu’il veut nous détruire, mais sa « capacité » à tout faire.

Il sera des milliers de fois plus intelligent que la personne la plus intelligente du monde, et avoir accès à toutes les informations disponibles.Nous parlons d’une intelligence qui peut tirer des conclusions en les traitant et qui est consciente de sa propre existence. Cette superintelligence sera naturellement très douée pour donner vie à ses objectifs.

Résumons le problème avec un exemple simple et agréable ; Si vous rencontrez une fourmilière en chemin, vous ne voulez pas la détruire. Vous avancez même plus prudemment, pour que les fourmis ne se blessent pas vous prenez soin. Mais si vous êtes responsable d’un projet d’énergie verte hydroélectrique et qu’il y a une fourmilière dans la région qui va inonder, vous ne vous soucierez probablement plus des fourmis à partir de là et vous passerez simplement à autre chose avec votre projet.

Dans ce scénario imaginez des humains contre une super intelligence artificielle des millions de fourmis dans une fourmilière. Non, la super IA ne voudra pas nous détruire. Mais alors que nous travaillons sur son objectif et sa mission, nous pouvons devenir invisibles pour lui.

Quelques questions et réponses courtes

La superintelligence artificielle fera mieux tout ce que l’homme peut faire ; fera encore plus. Cela supprimera-t-il les emplois des gens?

Oui. En fait, l’intelligence artificielle n’a même pas besoin d’être « super » pour que cela se produise. Au fil des années, au fur et à mesure que l’intelligence artificielle s’est développée, elle a déjà commencé à faire du « travail humain ». Combiné avec les développements dans le domaine de la robotique, l’intelligence artificielle sera capable de faire beaucoup de choses après un certain temps. Mais ça Cela ne signifie pas que tout le monde sera au chômage.

Parce que dans un univers où l’intelligence artificielle peut tout faire dans tous les domaines imaginables, seuls les humains peuvent le faire. nouvelles descriptions de poste sera formé. L’important est de voir dans quelle direction va le monde et de se préparer pour l’avenir, d’être de ceux qui en font partie, et non de regarder l’avenir.

La superintelligence artificielle sera-t-elle développée dans les 100 prochaines années ?

Le monde scientifique n’a pas de réponse claire à cette question. 10 ans, 50 ans, 250 ans… Les scientifiques se demandent quand la superintelligence artificielle pourra devenir réelle et littéralement ‘peuvent être inclus dans le système.Ils ne peuvent pas le dire avec certitude.

Si la superintelligence artificielle n’est pas si proche et « effrayante », pourquoi s’en soucier ?

Répondons à nouveau à cette question avec un bon exemple. Aujourd’hui, une lettre est arrivée sur notre planète d’une civilisation extraterrestre et à l’intérieur de celle-ci « Nous atteindrons votre planète dans 50 ans » imaginez écrire Attendrions-nous que le vaisseau apparaisse dans le ciel pour prendre des précautions, évaluer les risques et les scénarios possibles, et faire des recherches ? Non.

Vous pouvez évaluer tout ce qui concerne la super intelligence artificielle de ce point de vue. Même si c’est encore une théorie un nouveau concept d »intelligence’ qu’il ne pouvait même pas imaginer vous présentera. C’est pourquoi il est important pour nous d’anticiper ce qui pourrait arriver, d’essayer de le comprendre et d’agir en incluant le pire.

La superintelligence artificielle peut-elle contrôler les humains ?

Techniquement oui. Parce que l’intelligence apporte avec elle le pouvoir de contrôle. Comme nous sommes plus « intelligents » que les autres espèces, nous avons trouvé toutes sortes de moyens pour les contrôler…

Références : 1, 2, 3, 4, 5, 6, 7, 8, 9, 10