Principes éthiques : Équité et non-discrimination

Cette sous-ligne directrice fait partie de la ligne directrice Principes éthiques. Se reporter à la ligne directrice principale pour le contexte et une vue d'ensemble.

Cette sous-ligne directrice aborde le principe d'équité et de non-discrimination dans la gouvernance de l'IA pour les parlements, notamment la réduction des biais dans les processus législatifs et les interactions avec les citoyens. Elle souligne l'importance de la confiance et propose des recommandations spécifiques pour répondre aux biais potentiels.
Dans l'ensemble, cette sous-ligne directrice propose un cadre permettant aux parlements de développer et de maintenir des systèmes d'IA justes, non-discriminatoires et exempts de biais.

L'équité peut être définie au niveau individuel (par exemple en traitant des personnes comparables de manière cohérente) ou au niveau du groupe. Dans ce dernier cas, il s'agit de regrouper les personnes en catégories et de veiller à ce que ces groupes soient traités équitablement.

L'équité, dans le contexte de l'IA, est la capacité des systèmes d'IA à ne pas faire de discriminations ou à ne pas renforcer les biais à l'encontre d'une personne ou d'un groupe. Ce principe repose sur l'impartialité et l'inclusion. Des décisions équitables et non discriminatoires présupposent donc des données et des algorithmes non biaisés.
 

Pour que les systèmes d'IA soient équitables et non discriminatoires, les parlements doivent adopter une approche globale de la gestion des données et de l'atténuation des biais. Les composantes de cette approche sont détaillées ci-dessous :

• Gestion de la qualité des données : mettre en place des processus robustes pour gérer la qualité des données, en particulier pour les ensembles de données susceptibles d'être utilisés dans les systèmes d'IA. Mettre en œuvre des pratiques visant à garantir l'absence de biais dans les données et dans les modèles qui serviront à entraîner les algorithmes. Ces pratiques doivent tenir compte non seulement des biais dans les données et le traitement, mais aussi des biais cognitifs (pour plus d'informations sur ce sujet, voir la ligne directrice Risques et biais génériques et ses sous-lignes directrices).
• Formation du personnel : former le personnel à l'éthique des données, en mettant l'accent sur l'identification et la réduction des biais tout au long du processus de développement de l'IA.
• Gouvernance des données : mettre en œuvre un processus de gouvernance des données, avec une délimitation claire des responsabilités entre propriétaires et gestionnaires des données.
• Collaboration : faire en sorte que les services informatiques et les unités opérationnelles travaillent en étroite collaboration. Cette collaboration est essentielle pour prévoir, réduire et contrôler les biais tout au long du cycle de vie du système d'IA.
• Comité ou équipe d'éthique des données : mettre en place un comité d'éthique des données ou une équipe polyvalente capable d'analyser les biais potentiels et de les communiquer aux responsables et aux équipes informatiques pour chaque projet d'IA.
• Diversité et inclusivité : privilégier la diversité et l'inclusion lors de la constitution des équipes de projet et des comités d'éthique des données. En réunissant des personnes d'âges, de sexes, d'appartenances ethniques et de compétences différents, les parlements peuvent s'assurer qu'un large éventail de points de vue est entendu, ce qui réduit le risque que des biais potentiels soient occultés et améliore l'équité globale des systèmes d'IA.

Lors de la planification et du développement des systèmes d'IA destinés à être utilisés dans les processus législatifs, les parlements doivent :

• S'assurer que les données sont exemptes de biais concernant l'idéologie des partis politiques et les jugements de valeur antérieurs.
• Être conscients des éventuels biais historiques dans les données relatives aux réunions de commissions et aux sessions plénières.
• Établir des partenariats avec des organismes publics auprès desquels ils se procurent régulièrement des données externes pour les systèmes de rédaction de projets de loi basés sur l'IA, afin de maintenir la qualité des données.
• Être conscients des biais dans la traduction de textes et la transcription de la parole en texte.
• Confirmer que les informations produites par les systèmes d'IA générative sont exemptes de biais avant d'envisager de les utiliser.

Lors de la planification et du développement des systèmes d'IA destinés à être utilisés dans les processus de contrôle du gouvernement, les parlements doivent :

• Identifier les problèmes de qualité des données gouvernementales et alerter l'organisation gouvernementale en charge des données.
• Établir des partenariats avec les organisations gouvernementales chargées des données afin d'améliorer la qualité de ces dernières et de réduire les biais.

Lors de la planification et du développement des systèmes d'IA destinés à être utilisés dans les processus d'interaction avec les citoyens, les parlements doivent :

• Identifier les biais provenant des citoyens.
• Éviter d'intégrer les biais présentés par les citoyens.
• Éviter de faire apparaître des biais lors des échanges avec les citoyens.

Les Lignes directrices pour l’IA dans les parlements ont été produites par l’UIP en collaboration avec le Pôle parlementaire sur la science des données du Centre pour l'innovation au parlement de l'UIP. Ce document est soumis à une licence Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International. Il peut être librement partagé et réutilisé en mentionnant l'UIP. Pour plus d'informations sur les travaux de l'UIP en matière d'intelligence artificielle, veuillez consulter le site www.ipu.org/fr/impact/democratie-et-parlements-forts/lintelligence-artificielle ou contacter [email protected].