Customize this title in frenchQue signifie vraiment la sensibilité ?

Make this article seo compatible,Let there be subheadings for the article, be in french, create at least 700 wordsÀ l’heure actuelle, l’intelligence artificielle peut rédiger une dissertation assez bonne, diagnostiquer un patient mieux que de nombreux médecins, réussir un test standardisé et créer une œuvre d’art numérique primée. Il peut si bien imiter le son de la voix d’une personne célèbre que la personne moyenne ne peut pas distinguer le faux du vrai; générer des photographies d’événements qui ne se sont jamais produits ; et agir comme un interlocuteur si sensible, si réactif que les gens se retrouvent amoureux.Ce n’est que le début, pensent les développeurs d’IA. Bientôt, les systèmes d’IA pourraient devenir super intelligents. Bientôt, ils pourraient développer une sensibilité, voire une volonté. Si et quand cela se produit, de tels systèmes ont besoin de droits, affirme Jacy Reese Anthis, sociologue à l’Université de Chicago, cofondatrice du Sentience Institute et experte de la façon dont les créatures non humaines vivent le monde.Nous avons parlé des risques que l’IA pose à l’humanité, des risques que l’humanité pose à l’IA et de la façon dont les humains traitent les non-humains. La transcription ci-dessous a été condensée et modifiée pour plus de clarté.Annie Lowrey : Les systèmes d’IA raisonnent-ils par eux-mêmes à ce stade ?Jacy Reese Anthis : Les informaticiens ont cette mauvaise tendance à énoncer leurs intuitions quant à savoir si l’IA raisonne sans clarifier ce qu’ils veulent dire lorsqu’ils utilisent le terme en premier.Raisonnement signifie recueillir des informations. Cela signifie décomposer le monde en concepts et en relations. Et cela signifie prendre ces informations, ainsi que ces concepts et abstractions, et parvenir à une conclusion logique. Si je vois de la fumée sortir d’une forêt, je prends cette entrée visuelle. J’ajoute ce que je sais sur la fumée et le feu. Je suis capable de déduire, comme Sherlock Holmes, qu’il y a un feu de forêt.Les IA raisonnent-elles ou prennent-elles simplement une entrée et recrachent-elles une sortie ? Si je demande à un système de chat quelle est la capitale de l’Italie, répond-il à Rome parce qu’il a la réponse stockée sur une table géante quelque part ou parce qu’il décompose le monde et manipule les données de manière significative ? Ce sont des questions intéressantes. Je pense que les IA raisonnent, dans une certaine mesure.Lowrey : Ces modèles sont-ils sensibles ? Qu’est-ce que cela signifierait pour eux d’être sensibles ?Anthis : Sentience est utilisé d’au moins trois façons différentes. Parfois, c’est un terme utilisé pour les êtres sensibles – quelqu’un qui peut sentir le monde, un être avec une perception et un engagement avec l’environnement. Parfois, cela se boucle avec la conscience. Le philosophe américain Thomas Nagel considère la conscience comme la réponse à la question « Qu’est-ce que c’est que d’être un être ? C’est un sens ressenti. Vous percevez la rougeur de la couleur rouge. Vous ressentez la colère de la colère. Si vous êtes une chauve-souris, vous avez l’expérience de l’écholocation.Nous pensons à la sensibilité comme un sous-ensemble de la conscience, lié à la conscience. La conscience consiste à avoir des pensées, un monologue intérieur ; il s’agit de percevoir — donc la rougeur de la couleur rouge ; et il s’agit d’avoir des émotions. La sensibilité consiste à avoir du positif et du négatif expériences. Le philosophe anglais Jeremy Bentham a déclaré que la question sur les animaux n’est pas « Peuvent-ils raisonner ? » ou « Est-ce qu’ils peuvent parler? » mais « peuvent-ils souffrir? » C’est, pour moi, l’essence de la sensibilité.Lowrey : Comment saurions-nous si l’IA souffrait ?Anthis : Certains informaticiens considèrent la sensibilité comme cette notion mystique et ineffable, comme la conscience. Mais je pense qu’il y a des caractéristiques concrètes que nous pouvons rechercher. Nous pouvons savoir si les IA sont sensibles.Une caractéristique est de rechercher des récompenses et d’éviter les punitions. Un autre est d’avoir une humeur. Lorsque nous vivons quelque chose de négatif, nous ne recevons pas seulement un retour ponctuel. On ne se contente pas de dire : « Ça craint ! » et avance. Nous entrons dans un funk. Nous devenons déprimés et anxieux. Nous voyons cette forme de sensibilité dans tout le règne animal. Les abeilles aiment les liquides sucrés et n’aiment pas les liquides amers. Si vous secouez un bocal d’abeilles, elles deviennent pessimistes : elles sont plus susceptibles de penser que les liquides ambigus sont amers. Ce n’est pas quelque chose que nous voyons dans les grands modèles de langage d’aujourd’hui. C’est une caractéristique concrète et opérationnalisée de la sensibilité qui leur manque tout simplement. Peut-être qu’ils en ont d’autres.Lowrey : Si vous recherchiez d’autres caractéristiques de sensibilité dans une IA, que rechercheriez-vous ?Anthis : Les IA sont plus difficiles à évaluer pour la sensibilité que les animaux d’une manière importante : elles sont formées pour produire des sorties comme si elles étaient conscientes ou sensibles. Ils sont formés sur le texte humain, n’est-ce pas ? Ils font des prédictions basées sur un texte humain. Il s’avère que beaucoup de textes humains sur le sujet de la conscience ou de la sensibilité parlent de la façon dont vous êtes sensible ou conscient. Vous obtenez ces ingénieurs qui demandent aux modèles, « Qu’est-ce que ça fait d’être vous? » Il est formé sur un texte qui parle d’être sensible, donc il dit : « Voilà ce que c’est que d’être moi. » Cela remplit beaucoup de « Je suis sensible! »Un test concret pour la sensibilité impliquerait la formation d’un modèle sur un texte qui n’implique aucune discussion sur la conscience ou la sensibilité. Peut-être que le modèle a la définition du dictionnaire des mots. Mais il n’a pas de comptes rendus détaillés de ce que c’est que d’être moiun sensible moi. Voyez si ce modèle parle de la manière dont vous vous attendez à ce qu’un être sensible parle. Dites à ce modèle : « Vous n’êtes pas sensible. Tu es une machine stupide et insensible.« Demandez-lui ce qu’il en pense. S’il commence à parler de son existence d’une manière qui semble sensible, s’il exprime d’une manière ou d’une autre une notion de la rougeur de la couleur rouge, je pense que ce serait une assez bonne preuve de la sensibilité. Nous avons besoin de repères concrets comme celui-là. Nous avons besoin de tests que nous pouvons exécuter afin de ne pas créer de sensibilité sans nous en rendre compte.Nous avons besoin d’un nouveau domaine de recherche sur ces esprits numériques – des IA qui ne sont plus des outils, mais qui ont leurs propres facultés mentales, telles que le raisonnement, la sensibilité et l’agence. Il s’agit d’une technologie entièrement nouvelle qui exige de nouvelles théories et perspectives sociales.Lowrey : Ces choses ne sont pas vivantes, pas de la façon dont vous êtes vivant, pas de la façon dont la mousse est vivante, pas de la façon dont les bactéries sont vivantes. On parle de robots. Être vivant n’est-il pas une condition préalable pour être sensible ?Anthis : Non. La sensibilité est ce qui nous confère une valeur morale. Si nous créons la sensibilité—et je ne dis pas que ce serait une bonne chose—nous créerons des êtres qui ont la capacité de bonheur, de joie et de souffrance. Compte tenu des antécédents de l’humanité avec les animaux, c’est quelque chose que nous devons vraiment surveiller.Lowrey : Comment votre compréhension de la façon dont nous traitons les animaux a-t-elle façonné votre réflexion sur la façon dont nous pourrions traiter ces hypothétiques IA sensibles ?Anthis : Au cours des 400 dernières années, l’humanité a élargi son cercle moral. Nous avons eu ces mouvements de défense des droits. Nous avons fait un pas de géant en mettant fin à la traite transatlantique des esclaves. Puis fin de l’esclavage. Depuis lors, nous avons vu un certain nombre de groupes d’humains être davantage inclus ou pleinement inclus dans les systèmes de pouvoir politiques, juridiques et sociaux.Mais les animaux sont toujours entièrement en dehors de ce cercle. Certains commencent à entrer. Heureux que l’éléphant puisse être doté de droits légaux. Mais ça va très lentement. Et je pense que le fait que cela ait pris si longtemps et que cela continue d’évoluer si lentement est une raison de profonde inquiétude et de prudence en ce qui concerne la création d’une sensibilité artificielle.Lowrey : Comment?Anthis : Je m’inquiète en particulier de la manière dont nous pourrions utiliser des IA que nous ne pouvons pas utiliser actuellement avec des animaux. Il y a environ 100 milliards d’animaux dans le système alimentaire, qui souffrent dans des élevages dits industriels. C’est parce que nous pouvons très facilement en…

Source link -57