De nombreux experts constatent l'évolution rapide de l'intelligence artificielle (IA) et s'inquiètent de ses effets sur la démocratie. Pour mieux cerner cette question, l'UIP prépare une série de cinq articles. Dans ce troisième texte, Christophe Lacroix, parlementaire belge et co-rapporteur de la Commission permanente de la paix et de la sécurité internationale de l'UIP, s'exprime au sujet des applications militaires de l'IA et des risques qu’elles entraînent.
En 1983, alors que les relations entre les super puissances étaient au plus bas, les systèmes de détection avancée soviétiques ont signalé le lancement, depuis les États-Unis, d'un missile balistique intercontinental. Une réponse nucléaire de la part de l'Union soviétique aurait sonné le glas, une bonne fois pour toutes, de l'humanité, mais un officier soviétique à l'esprit vif a très justement émis l'hypothèse qu'il s'agissait d'un dysfonctionnement du système. En considérant l'information comme une fausse alerte, il a évité l'apocalypse.
Pour Christophe Lacroix, parlementaire belge et co-rapporteur de la Commission permanente de la paix et de la sécurité internationale de l'UIP, la leçon à en tirer ne fait pas de doute : nous ne devons pas nous en remettre aux machines en matière de paix et de sécurité.
L'IA peut par exemple présenter des avantages pour la paix et la sécurité du point de vue de l'intelligence et de la transparence, mais constituer une menace majeure si elle s'affranchit un jour du contrôle humain et prend des décisions de vie ou de mort sans considérations d'éthique ni de droit international.
"Les conséquences potentielles du recours à l'intelligence artificielle ont été sous-estimées" affirme M. Lacroix. "Comme Icare qui a volé trop près du soleil, nous devons veiller à ce que l'IA ne se développe pas en échappant à tout contrôle."
Les officiers militaires affirment que les humains resteront toujours maîtres des systèmes d'armement reposant sur l'IA. Toutefois, tous les acteurs impliqués ne sont pas des officiers militaires disciplinés gagnés aux idéaux démocratiques. Tout porte à croire, déplore M. Lacroix, que les acteurs non étatiques et les États voyous pourraient se servir de l'IA de façons moins prévisibles ou respectueuses des droits de l'homme.
En outre, ajoute-t-il, il faudra qu'un être humain soit très robuste (intellectuellement et psychologiquement) pour désobéir ou passer outre à une machine dont les informations et la prise de décision sont considérées comme infaillibles.
Cette perception de l'IA comme infaillible la rend déstabilisante. Une nation craignant qu'un de ses concurrents ne soit en passe de remporter un avantage concurrentiel vital grâce à l'IA pourrait lancer une attaque préventive.
Selon M. Lacroix : "L'IA révolutionne les choix militaires envisageables. Notre perception de tout l'environnement stratégique sera bouleversée, ce qui rend très probable une nouvelle course aux armements."
SYSTÈME MULTILATÉRAL
Un grand nombre de parlementaires rechignent à débattre de questions de sécurité, considérant qu'elles ne concernent que le gouvernement au sens strict du terme. Toutefois, les parlementaires sont en réalité tenus de contrôler les dépenses publiques, notamment militaires, et l'UIP a été fondée voici plus de 130 ans en partant du principe que le dialogue international peut contribuer à préserver la paix et la sécurité internationale.
"Dans un monde dont l'une des caractéristiques les plus marquées est la montée d'un nationalisme exacerbé, il va sans dire que le multilatéralisme est en danger," conclut M. Lacroix. "C'est précisément le rôle de l'UIP que de promouvoir ce multilatéralisme, qui nous a permis jusqu'à présent de pouvoir compter sur la négociation et la diplomatie – des instruments de paix parfois fragiles, mais qui doivent perdurer."
L'action unilatérale pouvant contribuer à l'établissement de règles et de normes selon M. Lacroix, il a co-signé en Belgique un projet de loi parlementaire visant à interdire totalement les systèmes d'armes létaux autonomes (SALA). Cependant les progrès réels passeront par des accords internationaux ayant un certain poids juridique.
À l'échelon multilatéral, l'ONU débat de l'IA dans le contexte de la Convention sur certaines armes classiques, mais la discussion s'est enlisée autour des définitions.
"Lorsque les États membres veulent mettre au point ces systèmes d'armes autonomes, ils trouvent le moyen de retarder les discussions," déplore M. Lacroix. "Tenter de trouver une définition commune n'est pas la bonne façon de procéder. Quoi qu'il en soit, nous devons aller beaucoup plus loin."
La 147e Assemblée de l'UIP, qui se réunira en Angola en octobre 2023, offrira aux parlementaires l'occasion de débattre des SALA et des applications militaires reposant sur l'IA dans le contexte des auditions que tiendra la Commission permanente de la paix et de la sécurité internationale. Ces auditions, conduites par M. Lacroix et par Mme Margarita Stolbizer, parlementaire argentine, définiront le contour d'une résolution qui sera soumise aux Membres de l'UIP lors d’un vote en 2024.
"Nous n'avons pas besoin de l'unanimité et nous ne l'aurons pas, mais la plupart des Parlements membres de l'UIP devraient voter en faveur de cette résolution," déclare M. Lacroix, soulignant le fort soutien qui se manifeste en Amérique du Sud. "Ce serait un signal fort adressé aux Nations Unies," ajoute-t-il.
M. Lacroix considère que l'UIP joue un rôle important en débattant de ces technologies, ce qui ajoute un élément vital de redevabilité.
"Les questions de responsabilité, de transparence, de faillibilité et de sécurité, ainsi que le facteur humain constituent des questions éminemment politiques et éthiques," déclare-t-il. "Elles ne doivent pas être laissées uniquement dans les mains des scientifiques, des experts techniques et des sociétés investissant dans ce domaine," conclut-il.
En savoir plus sur la série UIP sur l'IA
IA-1/5 : La démocratie est résiliente, mais l'IA doit être régulée et rigoureusement encadrée
Le Secrétaire général de l'UIP, Martin Chungong, expose les risques et les opportunités pour la démocratie et explique qu'il faut aller au-delà d'une simple régulation.
IA-2/5 : Pour Denis Naughten, les parlementaires doivent se rapprocher des scientifiques
l'UIP demande à Denis Naughten, Président du Groupe de travail de l'UIP sur la science et la technologie, quels conseils il donnerait aux parlementaires dans le monde.
