Customize this title in french Dieu merci, quelqu’un s’inquiète des systèmes d’armes contrôlés par l’IA | Jean Naughton

Make this article seo compatible,Let there be subheadings for the article, be in french, create at least 700 wordsJa télévision la plus intéressante que j’ai regardée récemment ne provenait pas d’une chaîne de télévision conventionnelle, ni même de Netflix, mais de la couverture télévisée du parlement. Il s’agissait d’un enregistrement d’une réunion du comité restreint sur l’IA dans les systèmes d’armes de la Chambre des Lords, qui a été mis en place pour enquêter sur « comment les armes autonomes devraient-elles être développées, utilisées et réglementées ». La séance particulière qui m’intéressait était celle du 20 avril, au cours de laquelle le comité a entendu quatre témoins experts – Kenneth Payne, qui est professeur de stratégie au King’s College de Londres; Keith Dear, directeur de l’innovation en intelligence artificielle de la société informatique Fujitsu ; James Black du groupe de recherche sur la défense et la sécurité de Rand Europe ; et Courtney Bowman, directeur mondial de l’ingénierie de la confidentialité et des libertés civiles chez Palantir UK. Un mélange intéressant, j’ai pensé – et c’est ce qui s’est avéré être.Les systèmes d’armes autonomes sont ceux qui peuvent sélectionner et attaquer une cible sans intervention humaine. On pense (et pas seulement par leurs boosters) que ces systèmes pourraient révolutionner la guerre et être plus rapides, plus précis et plus résistants que les systèmes d’armes existants. Et qu’ils pourraient, en théorie, même limiter les pertes de la guerre (même si je le croirai quand je le verrai).La chose la plus frappante à propos de la session (pour ce chroniqueur, en tout cas) était que, même si elle portait ostensiblement sur les utilisations militaires de l’intelligence artificielle dans la guerre, bon nombre des problèmes et des questions qui ont surgi au cours des deux heures de discussion auraient également pu se poser dans discussions sur le déploiement civil de la technologie. Des questions sur la sécurité et la fiabilité, par exemple, ou sur la gouvernance et le contrôle. Et, bien sûr, sur la réglementation. »Challenging » est omniprésent dans les discussions civiles sur la réglementation de l’IA – c’est un euphémisme pour « impossible » Bon nombre des échanges les plus intéressants portaient sur ce dernier sujet. «Nous devons simplement accepter», a déclaré Lord Browne of Ladyton avec résignation à un moment donné, «que nous ne serons jamais devant cette technologie. Nous allons toujours essayer de nous rattraper. Et si notre expérience constante d’élaboration de politiques publiques se maintient – ​​et elle le sera – alors la technologie ira à la vitesse de la lumière et nous irons à la vitesse d’une tortue. Et c’est le monde dans lequel nous vivons.Cela a bouleversé le professeur du panel. « Instinctivement, j’hésite à dire que c’est le cas », lâche-t-il. « Je suis peu enclin à être d’accord avec un argument qu’un universitaire résumerait comme un déterminisme technologique – ignorant toutes sortes de facteurs institutionnels et culturels qui contribuent à façonner la façon dont les sociétés individuelles développent leur IA, mais cela va certainement être difficile et je ne le fais pas ‘ Je ne pense pas que les arrangements institutionnels existants soient adéquats pour que ce genre de discussions ait lieu.Notez le terme « difficile ». Il est également omniprésent dans les discussions civiles sur la gouvernance/réglementation de l’IA, où il s’agit d’un euphémisme pour « impossible ».Donc, répondit Browne, nous devrions amener la technologie « en interne » (c’est-à-dire sous le contrôle du gouvernement) ?À ce moment-là, le gars de Fujitsu a fait remarquer laconiquement que « rien ne ralentirait plus rapidement les progrès de l’IA que de l’amener au gouvernement ». Suscitez le rire.Ensuite, il y avait la question de la prolifération, un problème éternel dans le contrôle des armements. Comment l’omniprésence de l’IA change-t-elle cela ? Très bien, a dit le gars de Rand. «Beaucoup de choses seront très difficiles à contrôler du point de vue de la non-prolifération, en raison de leur nature logicielle inhérente. Un grand nombre de nos régimes de contrôle des exportations et de non-prolifération qui existent sont très axés sur le matériel traditionnel de la vieille école : ce sont des missiles, des moteurs, des matières nucléaires. »Ouais. Et ce sont aussi des drones grand public que vous achetez sur Amazon et réajustez à des fins militaires, comme larguer des grenades sur des soldats russes dans des tranchées en Ukraine.Dans l’ensemble, ce fut une séance éclairante, un exemple paradigmatique de ce que devrait être la démocratie délibérative : polie, mesurée, informée, respectueuse. Et cela a suscité des réflexions sur le fait que les discussions les meilleures et les plus réfléchies sur des questions difficiles qui ont lieu dans ce royaume obscur ne se déroulent pas dans sa chambre élue, mais dans l’anomalie constitutionnelle qu’est la Chambre des lords.Je m’en suis rendu compte pour la première fois pendant le premier mandat de Tony Blair, lorsque certains d’entre nous essayaient d’amener les députés à prêter attention à la loi sur la réglementation des pouvoirs d’enquête, puis guidés par le parlement par le ministre de l’Intérieur, Jack Straw, et son sous-fifre Charles Clarke. Nous avons alors découvert que, sur les 650 députés de la Chambre des communes, seule une poignée s’intéressait le moins du monde à cette loi imparfaite. (La plupart d’entre eux avaient accepté le bromure du ministère de l’Intérieur qu’il ne faisait qu’introduire les écoutes téléphoniques dans l’ère numérique.) anomalies constitutionnelles dédiées chez les Lords qui ont consacré beaucoup de temps et d’efforts à essayer de le rendre moins défectueux qu’il ne l’aurait été autrement. C’était une tâche ingrate, et c’était inspirant de les voir le faire. Et c’est pourquoi j’ai aimé les voir le refaire il y a 10 jours.Ce que j’ai luDéficit démocratiqueUn article cinglant de Scott Galloway sur son blog No Mercy/No Malice, Guardrails, décrit l’échec catastrophique des États démocratiques à réglementer les entreprises technologiques.Appuyez sur ces touchesBarry Sanders a produit un bel essai dans Armoire magazine sur la machine qui mécanise l’écriture.Tous ont bavardéJe suis ChatGPT, et pour l’amour de Dieu, Please Don’t Make Me Do Any More Copywriting est une belle parodie de Joe Wellman sur McSweeney’s Internet Tendency.

Source link -57