Principes éthiques

Cette ligne directrice s'adresse aux hauts fonctionnaires parlementaires et aux informaticiens des parlements chargés de mettre en œuvre l'IA et d'en assurer la gouvernance et la gestion.
 

L'usage de l'IA par le parlement doit s'appuyer sur de robustes pratiques éthiques. Bien que cela soit vrai pour l'utilisation de l'IA dans toute organisation, c'est particulièrement important pour les parlements, qui doivent conserver la confiance des citoyens. Bien que les risques potentiels associés à l'usage de l'IA soient généralement reconnus, la gestion et l'atténuation de ces risques nécessitent une compréhension des principes éthiques.

Cette ligne directrice et ses sous-lignes directrices présentent une série de principes éthiques liés à l'IA. Elles examinent comment l'IA peut être mise en œuvre de manière éthique dans les processus et les pratiques parlementaires, à tous les niveaux de l'institution. Les principes éthiques de l'IA sont abordés dans huit domaines :

• Confidentialité
• Transparence
• Redevabilité
• Équité et non-discrimination
• Robustesse et sécurité
• Autonomie et contrôle humains
• Bien-être environnemental et sociétal
• Propriété intellectuelle

Pour garantir que les systèmes d'IA sont dignes de confiance et utilisés de manière responsable, les parlements doivent définir un code d'éthique pour l'usage de l'IA. Ce code doit être appliqué lors de l'utilisation, du développement et du déploiement des systèmes d'IA, afin de gérer ou d'atténuer les risques de ces technologies tout en optimisant leurs avantages.

Le code d'éthique doit expliciter ce que le parlement attend des systèmes d'IA et des personnes impliquées dans leur production et leur utilisation. Ce code doit être en adéquation avec les lois, réglementations et normes nationales et internationales pertinentes. Il doit comprendre des recommandations, des orientations et des limitations pour chaque principe éthique, celles-ci devant s'appliquer tout au long du cycle de vie du système d'IA – de la planification au démantèlement.

Les parlements peuvent s'appuyer sur de nombreuses ressources permettant de contribuer à l'élaboration de principes éthiques pour l'usage de l'IA. Certains parlements disposent peut-être déjà d'un cadre pouvant être adapté.

La section suivante présente un modèle que les parlements peuvent adopter s'ils le souhaitent. Dans ce modèle, les principes éthiques relatifs à l'usage de l'IA au parlement sont répartis en huit domaines :

• Confidentialité : les systèmes d'IA doivent respecter et défendre les droits à la confidentialité et la protection des données.
• Transparence : les citoyens doivent pouvoir comprendre quand et comment ils sont concernés par l'IA, grâce à la transparence et à une information responsable.
• Redevabilité : il doit être possible de déterminer qui est responsable des différentes phases du cycle de vie du système d'IA.
• Équité et non-discrimination : les systèmes d'IA doivent être inclusifs, accessibles et ne pas entraîner de discrimination injuste à l'encontre de personnes, de communautés ou de groupes.
• Robustesse et sécurité : les systèmes d'IA doivent opérer de manière fiable, conformément à l'usage auquel ils sont destinés.
• Autonomie et contrôle humains : les systèmes d'IA doivent respecter la liberté des personnes d'exprimer leurs opinions et de prendre des décisions.
• Bien-être environnemental et sociétal : les systèmes d'IA doivent respecter et promouvoir le bien-être de la société et l'environnement.
• Propriété intellectuelle : les systèmes d'IA doivent respecter les droits de propriété intellectuelle.

Qu'il s'agisse de réduire les biais, d'assurer un contrôle efficace, de conserver une communication claire ou de protéger les données personnelles, ces principes se conjuguent pour créer un cadre global d'utilisation éthique de l'IA. En adhérant à ces principes, les parlements peuvent exploiter les avantages de l'IA tout en atténuant les risques, en renforçant la confiance des citoyens et en assumant leurs responsabilités démocratiques.

Chacun de ces domaines est étudié dans la suite de cette ligne directrice et dans les sous-lignes directrices associées, lesquelles décrivent les défis et considérations spécifiques pour les parlements et offrent des conseils pratiques, des stratégies exploitables et des recommandations.

Confidentialité

Cette sous-ligne directrice examine le principe de confidentialité dans la gouvernance de l'IA pour les parlements, en mettant l'accent sur la protection des données personnelles. Elle décrit les problématiques spécifiques en matière de confidentialité dans les différents processus des travaux parlementaires, notamment les contextes législatifs, administratifs et d'interaction avec les citoyens. Elle souligne l'importance de justifier et de limiter l'utilisation des données personnelles dans les systèmes d'IA et propose des conseils sur le traitement des informations sensibles. Une attention particulière est accordée aux défis posés par l'IA générative dans le traitement des données personnelles et sensibles.

Dans l'ensemble, cette sous-ligne directrice propose un cadre permettant aux parlements de développer et de maintenir des systèmes d'IA respectant la confidentialité et protégeant les données personnelles.
Pour plus d'informations sur ce principe, se reporter à la sous-ligne directrice Principes éthiques : Confidentialité.

Transparence

Cette sous-ligne directrice examine le principe de transparence dans la gouvernance de l'IA pour les parlements. Elle définit la transparence comme la communication d'informations appropriées sur les systèmes d'IA dans un format compréhensible et accessible. Elle aborde trois aspects clés de la transparence : la traçabilité, l'explicabilité et la communication.

Soulignant l'importance de documenter l'ensemble du cycle de vie des systèmes d'IA, de la planification au démantèlement, elle propose des recommandations pratiques pour la mise en œuvre de la transparence. Il s'agit notamment de la documentation relative à l'évaluation des risques, de méthodes normalisées pour expliquer les décisions en matière d'IA et d'une communication claire sur les capacités et les limites des systèmes d'IA. Cette sous-ligne directrice propose également des orientations spécifiques pour garantir la transparence des applications d'IA générative, en présentant les défis uniques que posent ces applications.

Dans l'ensemble, cette sous-ligne directrice propose un cadre permettant aux parlements de développer et de maintenir des systèmes d'IA transparents, responsables et en adéquation avec les valeurs démocratiques.
Pour plus d'informations sur ce principe, se reporter à la sous-ligne directrice Principes éthiques : Transparence.

Redevabilité

Cette sous-ligne directrice examine le principe de redevabilité dans la gouvernance de l'IA pour les parlements. Elle souligne que si les systèmes d'IA ne sont pas eux-mêmes responsables de leurs actions, il est essentiel de mettre en place des structures claires de redevabilité.
Cette sous-ligne directrice traite de l'importance de l'auditabilité et de la gestion des risques tout au long du cycle de vie du système d'IA. Elle propose des recommandations pratiques pour la mise en œuvre de la redevabilité, notamment les processus d'identification des parties prenantes et d'évaluation des risques, et pour la préparation des audits internes et externes. 
Dans l'ensemble, cette sous-ligne directrice propose un cadre permettant aux parlements de développer et de maintenir des systèmes d'IA à même de rendre des comptes et en adéquation avec les valeurs démocratiques.
Pour plus d'informations sur ce principe, se reporter à la sous-ligne directrice Principes éthiques : Redevabilité.

Équité et non-discrimination

Cette sous-ligne directrice aborde le principe d'équité et de non-discrimination dans la gouvernance de l'IA pour les parlements, notamment la réduction des biais dans les processus législatifs et les interactions avec les citoyens. Elle souligne l'importance de la confiance et propose des recommandations spécifiques pour répondre aux biais potentiels.
Dans l'ensemble, cette sous-ligne directrice propose un cadre permettant aux parlements de développer et de maintenir des systèmes d'IA justes, non-discriminatoires et exempts de biais.
Pour plus d'informations sur ce principe, se reporter à la sous-ligne directrice Principes éthiques : Équité et non-discrimination.

Robustesse et sécurité

Cette sous-ligne directrice aborde le principe de robustesse et sécurité dans la gouvernance de l'IA pour les parlements, en soulignant que, pour être dignes de confiance, les systèmes d'IA doivent être robustes face aux situations hostiles et aux changements dans l'environnement pour lequel ils ont été conçus.

Cette sous-ligne directrice présente le principe de robustesse et sécurité sous deux angles : la résilience aux défaillances, qui pourraient entraîner des atteintes aux personnes, aux organisations ou à l'environnement ou pourraient empêcher la traçabilité, et la résilience aux cyberattaques.

Dans l'ensemble, cette sous-ligne directrice propose un cadre permettant aux parlements de développer et de maintenir des systèmes d'IA robustes et sûrs.

Pour plus d'informations sur ce principe, se reporter à la sous-ligne directrice Principes éthiques : Robustesse et sécurité.

Autonomie et contrôle humains

Cette sous-ligne directrice examine le principe d'autonomie et contrôle humains dans la gouvernance de l'IA pour les parlements. Il s'agit du mode d'interaction entre les systèmes d'IA et les humains, ainsi que de la manière dont les informations sont stockées, transmises et sécurisées. Elle souligne que les parlements, en tant que catalyseurs d'une société démocratique, florissante et équitable, doivent accompagner l'action de l'utilisateur et défendre les droits fondamentaux, et que, dans un contexte d'IA, cela nécessite un contrôle humain.
Dans cette sous-ligne directrice, une attention particulière est accordée aux défis posés par l'IA générative, en soulignant la nécessité de disposer de robustes canaux de retour d'information et de contrôles humains fréquents.
Dans l'ensemble, cette sous-ligne directrice propose un cadre permettant aux parlements de développer et de maintenir des systèmes d'IA encourageant l'autonomie humaine et permettant un contrôle humain.
Pour plus d'informations sur ce principe, se reporter à la sous-ligne directrice Principes éthiques : Autonomie et contrôle humains.

Propriété intellectuelle

Cette sous-ligne directrice examine le principe de propriété intellectuelle dans la gouvernance de l'IA pour les parlements. Elle souligne que toutes les personnes impliquées dans le cycle de vie d'un système d'IA, y compris les utilisateurs, doivent respecter la propriété intellectuelle afin de protéger l'investissement dans le contenu original qu'ont réalisé les détenteurs de droits. Elle traite des droits d'auteur, des droits accessoires et des restrictions contractuelles en matière d'accès au contenu et d'utilisation de ce dernier.
Dans l'ensemble, cette sous-ligne directrice propose un cadre permettant aux parlements de développer et de maintenir des systèmes d'IA respectant les droits de propriété intellectuelle.
Pour plus d'informations sur ce principe, se reporter à la sous-ligne directrice Principes éthiques : Propriété intellectuelle.

Bien-être environnemental et sociétal

Cette sous-ligne directrice examine le principe du bien-être environnemental et sociétal dans la gouvernance de l'IA pour les parlements. Elle souligne qu'en raison de l'omniprésence de l'IA dans la société, cette technologie doit servir au bien-être des personnes. Elle précise en outre que les applications de l'IA ne doivent pas avoir d'incidence négative sur le bien-être physique et mental des personnes, ni nuire à l'environnement ou à la société.
Dans l'ensemble, cette sous-ligne directrice propose un cadre permettant aux parlements de développer et de maintenir des systèmes d'IA protégeant et encourageant le bien-être environnemental et sociétal.
Pour plus d'informations sur ce principe, se reporter à la sous-ligne directrice Principes éthiques : Bien-être environnemental et sociétal.
 

Les Lignes directrices pour l’IA dans les parlements ont été produites par l’UIP en collaboration avec le Pôle parlementaire sur la science des données du Centre pour l'innovation au parlement de l'UIP. Ce document est soumis à une licence Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International. Il peut être librement partagé et réutilisé en mentionnant l'UIP. Pour plus d'informations sur les travaux de l'UIP en matière d'intelligence artificielle, veuillez consulter le site www.ipu.org/fr/impact/democratie-et-parlements-forts/lintelligence-artificielle ou contacter [email protected].

À propos des Lignes directrices | Rôle de l'IA au sein des parlements | Présentation des applications d'IA | Coopération interparlementaire pour l'IA | Actions stratégiques pour la gouvernance de l'IA | Risques et difficultés pour les parlements | Risques et biais génériques | Principes éthiques | Gestion des risques | Adéquation par rapport aux normes et cadres nationaux et internationaux en matière d'IA | Gestion du portefeuille de projets | Gouvernance des données | Développement de systèmes | Gestion de la sécurité | Formation à la maîtrise des données et à la maîtrise l'IA | Glossaire terminologique