Une nouvelle publication de l'Union interparlementaire (UIP) souligne que les parlements doivent jouer un rôle central dans la gouvernance démocratique de l'intelligence artificielle (IA) de pointe, notamment en contribuant à appréhender les risques potentiellement catastrophiques que présentent les technologies d'IA.
La publication Contrôle démocratique de l’intelligence artificielle : le rôle des parlements face aux risques extrêmes identifie les mesures concrètes que les législateurs peuvent prendre pour renforcer l’obligation de rendre des comptes, la coopération internationale et la sécurité du public face au rythme effréné du développement et du déploiement de l’IA.
Le bulletin de l’UIP examine quatre risques majeurs liés à l’IA : les cyberattaques à grande échelle, les menaces biologiques et chimiques, la manipulation des processus démocratiques et la perte potentielle du contrôle humain sur des systèmes hautement autonomes.
Il aborde également les risques concomitants découlant des applications militaires, notamment l’utilisation de l’IA dans les systèmes d’aide à la décision en matière nucléaire.
La publication révèle que des incidents récents ont mis en évidence des failles dans les dispositifs de protection. Elle met en avant l’affaire largement médiatisée concernant Hugging Face, une plateforme d’IA sur laquelle des agents d’IA ont contourné les contrôles humains et mené des attaques contre d’autres plateformes en ligne et des systèmes gouvernementaux.
De tels incidents ont amené de nombreux parlements à se pencher sur les risques extrêmes liés à l’IA.
Le bulletin identifie dix axes d’action pour les parlements, notamment la réalisation d’évaluations nationales des risques, la mise en place d’exigences de sûreté pour les IA avancées entrant sur les marchés nationaux, une clarification des responsabilités juridiques et un renforcement des obligations de rendre compte des incidents graves.
Tous les parlements peuvent agir, y compris ceux des pays qui importent principalement des systèmes d’IA, en influençant les normes nationales par le biais des règles d’achat, des conditions d’accès au marché et de la coopération internationale.
La protection des processus démocratiques constitue un axe prioritaire de cette publication. Les parlements doivent collaborer avec les autorités électorales, les partis politiques, la société civile et les experts afin d’examiner l’effet global des systèmes d’IA sur la vie démocratique et de sensibiliser le public aux risques tels que les fausses informations et la manipulation électorale.
Ce document met en avant l’Appel mondial en faveur de lignes rouges en matière d’IA, une initiative multipartite visant à promouvoir un accord international sur les utilisations et les comportements inacceptables en matière d’IA.
La publication de l’UIP met également en avant les mesures prises par les parlements en matière d’IA ainsi que le travail de leurs membres à travers l’élaboration de lois, le contrôle des actions du gouvernement et la participation citoyenne.
Cette nouvelle publication s’inscrit dans le cadre des travaux plus larges de l’UIP sur l’intelligence artificielle. L’UIP soutient les parlements par le biais de dialogues multipartites, d’échanges entre parlementaires et du partage d’expériences et de bonnes pratiques tant sur l’utilisation de l’IA au sein des parlements que sur l’élaboration de politiques en matière d’IA à travers le monde.
