Customize this title in frenchLe pape AI dans le manteau en duvet devrait être un avertissement

Le Pape porte-t-il du Balenciaga ? Ou Moncler? Ou cette gigantesque doudoune d’un blanc éclatant est-elle un produit sur mesure ? Oui, mais un créé à l’aide de l’intelligence artificielle. La photo, devenue virale depuis le week-end, montre le pape François très branché avec un manteau et une chaîne croisée dessus, et le bandage autour du ventre ne manque pas. Si vous regardez attentivement, la croix n’est accrochée à la chaîne que d’un côté. Une main moins qu’idéale est également typique des images générées par l’IA. Bien que le problème des doigts se soit beaucoup amélioré avec la dernière mise à jour de Midjourney (V5), par exemple, les mains semblent être extrêmement difficiles à dessiner, et pas seulement pour nous, les humains. C’est ce qu’on appelle des artefacts lorsque les choses ne s’additionnent pas dans les images AI.

On pourrait penser que le Pape n’aime pas son visage moderne, mais non, l’Église catholique d’Autriche écrit que le Pape s’attend à ce que l’IA puisse contribuer à un avenir positif pour l’humanité – à condition que les développeurs agissent de manière éthique et responsable. Selon l’agence de presse, il cite le format de discussion Church-Technology « Minerva Dialogues ». Le pape y a reconnu les efforts des organisations internationales pour réglementer les nouvelles technologies. S’agit-il de Google et de Microsoft ou de gouvernements qui ont exigé plus qu’ils n’ont pu faire ? Kathpress écrit à propos des images d’IA que beaucoup ont loué le style du pape, même s’ils ont reconnu que ces images étaient fausses.

Le drôle de pape hipster et la grave arrestation de Trump

Que le pape soit un hipster ou non ne fait de mal à personne. Que Donald Trump soit effectivement arrêté pourrait avoir plus d’impact sur les événements mondiaux. Et le problème devient encore plus évident lorsque l’on regarde des images montrant Vladimir Poutine agenouillé devant le président chinois Xi Jinping. Ces deux exemples sont aussi des vrais ou des vrais fakes qui ont provoqué un tollé sur internet. Eliot Higgins, qui dirige le blog Bellingcat, a tweeté des photos de l’arrestation de Trump, une audience au tribunal et des photos de l’ex-président en prison, qui ont toutes été créées à l’aide de l’IA et semblaient très réelles. Sur son blog, Higgins écrit également sur une fausse vidéo diffusée par l’ambassade de Russie au Royaume-Uni. Il montre un traitement plus que peu glorieux des troupes ukrainiennes envers une mère avec un bébé. Une telle propagande existe non seulement depuis qu’il existe des générateurs d’images, mais elle devient encore plus facile et plus rapide à créer.

Le dicton rebattu « Une image vaut mille mots » doit être appliqué ici dans la mesure où ces images générées ont un effet et laissent des traces dans nos têtes. Il ne peut pas être rendu invisible. Et la signification est énorme. Alors Poutine est à genoux devant la Chine, alors il doit le faire aussi, et ainsi de suite. Même lorsque nous sommes conscients que les images ne sont pas réelles, le cerveau transmet ces informations. Si la désinformation écrite était déjà un problème pour les campagnes électorales, ces images nouvellement créées peuvent faire au moins autant de dégâts.

Si les générateurs d’images peuvent aussi utiliser les mains, il devient encore plus difficile de reconnaître le faux. Si le manteau avait été deux fois moins moelleux, plus de gens auraient cru qu’il s’agissait d’une vraie photo plus longtemps. Espérer que les développeurs ont agi de manière éthique et responsable pourrait ne pas aller assez loin.

Jusqu’à présent, les fournisseurs de générateurs d’images ont déjà fixé diverses limites, comme l’interdiction de certains mots afin d’empêcher ou du moins de rendre plus difficile la génération de contenu pornographique. Toute personne qui enfreint à plusieurs reprises cette règle sera bannie. Tout autour, bien sûr, suffisamment de scénarios peuvent être créés qui sont indésirables et peuvent être mal utilisés.

(emw)