Les régulateurs qui souhaitent freiner une nouvelle génération de machines à tuer artificiellement intelligentes n’auront peut-être pas beaucoup de temps pour le faire, ont prévenu les gouvernements lundi.
Alors que les systèmes d’armes autonomes prolifèrent rapidement, notamment sur les champs de bataille d’ Ukraine et de Gaza , les algorithmes et les véhicules aériens sans pilote aident déjà les planificateurs militaires à décider d’atteindre ou non des cibles. Bientôt, cette décision pourrait être entièrement confiée aux machines.
"C'est le moment Oppenheimer de notre génération", a déclaré le ministre autrichien des Affaires étrangères Alexander Schallenberg , faisant référence à J. Robert Oppenheimer , qui a aidé à inventer la bombe atomique en 1945 avant de prôner le contrôle de la prolifération des armes nucléaires.
Des responsables civils, militaires et technologiques de plus de 100 pays se sont réunis lundi à Vienne pour discuter de la manière dont leurs économies peuvent gérer la fusion de l'IA avec les technologies militaires - deux secteurs qui ont récemment applaudi les investisseurs, contribuant à faire grimper les valorisations des actions à des sommets sans précédent.
L'intensification des conflits mondiaux combinée aux incitations financières pour les entreprises à promouvoir l'IA ajoute au défi du contrôle des robots tueurs, selon Jaan Tallinn , l'un des premiers investisseurs dans la plateforme d'IA d' Alphabet Inc. , DeepMind Technologies .
« Les incitations de la Silicon Valley pourraient ne pas être alignées sur celles du reste de l'humanité », a déclaré Tallinn .
Les gouvernements du monde entier ont pris des mesures pour collaborer avec les entreprises intégrant des outils d’IA dans la défense. Le Pentagone investit des millions de dollars dans les startups de l’IA . L' Union européenne a payé la semaine dernière Thales SA pour créer une base de données d'images permettant d'évaluer les cibles sur le champ de bataille.
Le magazine +972 , basé à Tel Aviv , a rapporté ce mois-ci qu’Israël utilisait un programme d’intelligence artificielle appelé « Lavender » pour développer des cibles d’assassinat. Le rapport, qu'Israël a contesté, affirme que le système d'IA a joué un « rôle central dans le bombardement sans précédent des Palestiniens ».
"L'avenir des robots tueurs est là", a déclaré Anthony Aguirre , un physicien qui a prédit la trajectoire que prendrait la technologie dans un court métrage de 2017 regardé par plus de 1,6 million de téléspectateurs. « Nous avons besoin d'un traité de contrôle des armements négocié par l'Assemblée générale des Nations Unies . »
Mais les partisans des solutions diplomatiques seront probablement frustrés, du moins à court terme, selon Alexander Kmentt , le plus haut responsable autrichien du désarmement et l'architecte de la conférence de cette semaine.
"Une approche classique du contrôle des armements ne fonctionne pas car nous ne parlons pas d'un système d'armes unique mais plutôt d'une combinaison de technologies à double usage", a déclaré Kmentt dans une interview.
Au lieu de parvenir à un nouveau traité « magnum opus », Kmentt a suggéré que les pays pourraient être contraints de se contenter des outils juridiques dont ils disposent déjà. L’application des contrôles à l’exportation et des lois humanitaires pourrait aider à contrôler la propagation des systèmes d’armes à IA , a-t-il déclaré.
À long terme, une fois que la technologie sera devenue accessible aux acteurs non étatiques et potentiellement aux terroristes, les pays seront obligés d'écrire de nouvelles règles, a prédit Arnoldo André Tinoco , ministre des Affaires étrangères du Costa Rica .
« La disponibilité immédiate d’armes autonomes supprime les limitations qui garantissaient que seuls quelques-uns pouvaient participer à la course aux armements », a-t-il déclaré. « Désormais, les étudiants possédant une imprimante 3D et des connaissances de base en programmation peuvent fabriquer des drones capables de causer de nombreuses victimes. « Les systèmes d’armes autonomes ont changé à jamais le concept de stabilité internationale . »
©2024 Bloomberg