Je film d’horreur M3gan – et sa poupée démon homonyme – a charmé les critiques et rempli les salles de cinéma, gagnant 30,4 $ le week-end d’ouverture. La bande-annonce du film, qui est devenue virale l’automne dernier pour une scène qui montre le robot s’arrêtant, à mi-mort, pour essayer une danse TikTok, a prouvé que M3gan est un méchant fait pour les mèmes. Mais ce n’est pas que de l’amusement sanguinaire : le film soulève des questions sur la parentalité et la récréation numérisée.
Un petit résumé, avec de légers spoilers : M3gan est une poupée robot qui peut à peu près tout faire (marcher, parler, twerk, assassiner). Elle a été créée par Gemma (Allison Williams), une roboticienne obsédée par le travail qui doit soudainement s’occuper de sa nièce orpheline Cady. Au début, M3gan est un succès : les patrons de Gemma dans une entreprise de jouets à la Hasbro la présentent comme la Tesla des poupées. Elle et Cady deviennent inséparables. Ensuite, M3gan devient trop intelligent.
Les jouets diaboliques ont gagné leur place dans le canon de l’horreur, de la poupée Talking Tina de The Twilight Zone à Chucky, la figurine d’action habitée par l’âme d’un tueur en série. Alors que les éthiciens des robots continuent de débattre de la manière dont les gens devraient interagir avec les compagnons IA imminents (devrions-nous avoir des relations sexuelles avec eux ? Devrions-nous les laisser élever nos enfants ?), M3gan semble particulièrement opportun.
Mais que pensent les éthiciens des robots de M3gan ? Katie Darling, experte de premier plan en éthique technologique et chercheuse au MIT Media Lab, affirme que le monde est loin d’une version réelle de la poupée.
« Je ne pense pas que nous aurons quelque chose qui soit à ce niveau d’IA sophistiquée dans la prochaine décennie ou deux », a-t-elle déclaré. « Les gens ont des attentes complètement faussées sur ce que la robotique peut faire à ce stade, grâce à des films comme celui-ci. »
Darling pense cependant que les gens devraient commencer à s’interroger sur la manière dont les jouets robots seront commercialisés et vendus. « Je ne suis pas préoccupé par ce que j’ai vu dans la bande-annonce se produire dans la vraie vie – l’IA devient trop intelligente et n’écoute pas les commandes », a déclaré Darling. « JE un m préoccupé de savoir si l’IA devrait être utilisée pour remplacer la capacité humaine dans les relations, et la réponse est non.
Les machines ne pensent pas ou n’agissent pas comme les gens, a déclaré Darling. Bien sûr, certains types de nounous robots existent, comme l’iPall, un compagnon de 3 pieds de haut qui peut chanter, danser, répondre aux questions et, selon ses créateurs, occuper les enfants pendant « quelques heures » pendant que leurs parents sont absents . (Contrairement à M3gan, il ne peut pas pousser les intimidateurs de la cour d’école devant des voitures en mouvement.)
Mais la garde ne signifie pas seulement la supervision : il y a un aspect émotionnel à élever des enfants, selon Darling, seuls les humains sont capables de le faire. « Les robots peuvent être utilisés comme complément, comme nous aurions utilisé un animal de compagnie ou un compagnon – et non pour remplacer directement une relation humaine », a déclaré Darling.
Ronny Bogani, éthicien de l’intelligence artificielle et avocat des droits de l’enfant, estime que les gardiens de robots pourraient « changer complètement la dynamique familiale ». Par exemple : que se passe-t-il si un enfant demande à aller au magasin la nuit, qu’un parent dit non, puis qu’une nounou robot réplique des preuves du beau temps et de l’absence de criminalité à l’extérieur ? « Si un robot donne des preuves empiriques qui montrent que les règles des parents sont fausses, combien de temps cela doit-il arriver à un adulte avant qu’il en ait assez d’être gêné par un grille-pain ? » demande Bogani.
Darling s’inquiète également de la façon dont les entreprises pourraient exploiter l’attachement d’un enfant à ses amis robots. « Si un enfant a une relation avec ce type de poupée, le capitalisme d’entreprise pourrait prendre cette relation en otage », a-t-elle déclaré. « Ils pourraient dire : « Maintenant, nous procédons à une mise à niveau logicielle du robot qui coûte 10 000 $ », et cela ralentit l’accès si vous ne payez pas cet abonnement. Il y a tellement de façons dont les entreprises pourraient manipuler les gens avec des robots.
Bogani a ajouté que les robots pouvaient surveiller les enfants tout au long de leur adolescence. Il sera beaucoup plus difficile pour un adolescent d’avoir une phase de rébellion si un appareil qui marche et parle surveille chacun de ses mouvements. « Enfreindre les lois et la désobéissance civile fait partie de la croissance », a-t-il déclaré. « À quel moment une nounou robot est-elle tenue de signaler un enfant ? »
Bien que le look signature de M3gan (boucles blondes, robe kaki, écharpe à carreaux) devienne sans aucun doute un incontournable d’Halloween, de nombreux éthiciens ne croient pas que les robots doivent ressembler à des personnes. « C’est une de mes bêtes noires que nous essayons de leur donner un aspect humain », a déclaré Darling. « Il y a tellement d’autres façons de créer une conception robotique convaincante, mais sans créer de fausses attentes d’un robot se comportant comme un humain. »
Les roboticiens peuvent s’appuyer sur les astuces des animateurs pour insuffler l’émotion humaine dans les figures anthropomorphes. « Je déteste que nous prenions par défaut la forme humaine à des fins de marketing », a déclaré Darling. Et pourquoi les nounous robots doivent-elles trafiquer des tropes maternels sur les gardiennes ? « Les clients pourraient vouloir qu’un robot Mary Poppins s’occupe de leurs enfants, mais cela ne fonctionne même pas car un robot ne se comportera pas comme Mary Poppins », a-t-elle ajouté.
Bogani convient que les robots ne devraient pas avoir de caractéristiques ou de noms humanoïdes. Et il pense qu’à l’avenir, s’ils sont utilisés pour la garde d’enfants ou le gouvernement, il devrait y avoir une couleur standard pour indiquer une classe distincte de robots équipés d’une plus grande protection des données. « Je ne sais pas pourquoi un robot doit avoir une tête », a-t-il déclaré. «Regardez les humains: nous sommes une conception de produit piss-pauvre. Pourquoi le copions-nous avec des robots ? »
Il est facile de comprendre pourquoi les cinéastes de M3gan ont copié le look d’une jeune fille précoce pour leur robot : c’est infiniment effrayant. Mais alors que l’histoire de la moralité de l’IA pourrait effrayer le public aujourd’hui, il y aura certainement un marché pour les assistants robots (espérons-le respectueux des lois).
« Il faut un village pour élever un enfant, et nous entrons dans une ère de village numérique », a déclaré Bogani. « Cette technologie est phénoménale et tellement incroyable, mais sans les bonnes protections, elle pourrait aussi être dangereuse. »