Principes éthiques : Transparence

Cette sous-ligne directrice fait partie de la ligne directrice Principes éthiques. Se reporter à la ligne directrice principale pour le contexte et une vue d'ensemble.

Cette sous-ligne directrice examine le principe de transparence dans la gouvernance de l'IA pour les parlements. Elle définit la transparence comme la communication d'informations appropriées sur les systèmes d'IA dans un format compréhensible et accessible. Elle aborde trois aspects clés de la transparence : la traçabilité, l'explicabilité et la communication.

Soulignant l'importance de documenter l'ensemble du cycle de vie des systèmes d'IA, de la planification au démantèlement, elle propose des recommandations pratiques pour la mise en œuvre de la transparence. Il s'agit notamment de la documentation relative à l'évaluation des risques, de méthodes normalisées pour expliquer les décisions en matière d'IA et d'une communication claire sur les capacités et les limites des systèmes d'IA. Cette sous-ligne directrice propose également des orientations spécifiques pour garantir la transparence des applications d'IA générative, en présentant les défis uniques que posent ces applications.

Dans l'ensemble, cette sous-ligne directrice propose un cadre permettant aux parlements de développer et de maintenir des systèmes d'IA transparents, responsables et en adéquation avec les valeurs démocratiques.
 

Transparency involves communicating appropriate information about AI systems to the right people and in a free, understandable and easily accessible format.

Transparency – throughout the entire life cycle of an AI system – encompasses three key aspects: traceability, explainability and communication. These are discussed below.

Traceability

Traceability implies the ability to follow and monitor the entire life cycle of an AI system, from the definition of its purpose, through to planning, development,use and ultimate decommissioning.

Architects, developers, decision makers and even users involved in the development and evolution of AI systems are advised to use a combination of tools and documentation to support traceability.

Explainability

Explainability is the ability for humans to understand and trust each decision, recommendation or prediction made by an AI system.

As complexity increases in AI systems, explainability declines. Consequently, initially simple AI systems become less explainable as new layers of functionality are added over time.

Since different AI system stakeholders require different types of explanations, parliaments must generate documentation aimed at decision makers and those responsible for AI governance, in addition to the documents produced by the development team.

Communication

Communication is important for transparency: humans must always know that they are interacting with an AI system. As such, any AI system that interacts with humans must identify itself unambiguously. It must be explained to users and practitioners, in a clear and accessible manner, how the system functions and what its limitations are.

La transparence implique la communication d'informations appropriées sur les systèmes d'IA aux bonnes personnes et dans un format ouvert, compréhensible et facilement accessible.
La transparence – tout au long du cycle de vie d'un système d'IA – englobe trois aspects clés : la traçabilité, l'explicabilité et la communication. Ces points sont abordés ci-dessous.

Traçabilité

La traçabilité implique la capacité de suivre et superviser l'ensemble du cycle de vie d'un système d'IA, depuis la définition de son objectif jusqu'à sa mise hors service, en passant par sa planification, son développement et son utilisation.
Il est conseillé aux architectes, aux développeurs, aux décideurs et même aux utilisateurs impliqués dans le développement et l'évolution des systèmes d'IA d'utiliser une combinaison d'outils et de documentation pour assurer la traçabilité.

Explicabilité

L'explicabilité est la capacité des humains à comprendre et à faire confiance à chaque décision, recommandation ou prédiction faite par un système d'IA.
Au fur et à mesure que la complexité des systèmes d'IA augmente, l'explicabilité décroît. Par conséquent, les systèmes d'IA initialement simples deviennent de moins en moins explicables à mesure que de nouvelles couches de fonctionnalités sont ajoutées au fil du temps.
Les divers acteurs du système d'IA ayant besoin de différents types d'explications, les parlements doivent produire une documentation destinée aux décideurs et aux responsables de la gouvernance de l'IA, en plus des documents produits par l'équipe de développement.

Communication

La communication est importante pour la transparence : les humains doivent toujours savoir qu'ils interagissent avec un système d'IA. Ainsi, tout système d'IA qui interagit avec des humains doit s'identifier sans ambiguïté. Il faut expliquer aux utilisateurs et aux praticiens, de manière claire et accessible, comment le système fonctionne et quelles sont ses limites.
La transparence des systèmes d'IA dans la pratique
Pour garantir la transparence des systèmes d'IA, les parlements doivent adopter une approche globale, portant sur l'ensemble du cycle de vie. Les composantes de cette approche sont détaillées ci-dessous :

• Évaluation des risques : produire une évaluation complète des risques pour donner des orientations en matière d'autorisation, de développement et de maintenance du projet. Cette évaluation doit prendre en compte toutes les parties prenantes et étayer les décisions depuis le lancement jusqu'à la mise hors service éventuelle.
• Normalisation : dans le cadre du processus de développement des systèmes d'IA, adopter une méthode normalisée de transparence, telle que l'IA explicable (XAI), pour documenter les aspects clés, notamment la définition du problème, les critères de sélection des données, l'utilisation des données personnelles, les spécifications techniques, le retour d'information des utilisateurs et les résultats du contrôle. Préciser la logique qui sous-tend toutes les décisions importantes.
• Remontée des informations : maintenir la transparence grâce à des rapports réguliers sur le comportement et au stockage continu des données à des fins d'audit. Communiquer clairement à toutes les parties concernées les attentes, les limites et les anomalies potentielles du système.
• Communication : veiller à ce que les applications d'IA qui interagissent avec des humains révèlent leur nature artificielle. Informer les dirigeants de l'utilisation de l'IA dans leur domaine de responsabilité.
• Documentation : adapter la documentation sur la transparence au public visé, qu'il soit interne ou externe. Pour les systèmes d'IA externalisés, communiquer clairement et appliquer les exigences de transparence avec les fournisseurs externes.
   

Les parlements recourant à l'IA générative doivent privilégier la transparence et la redevabilité, en tenant compte du fait que le processus d'apprentissage et les données utilisées par les systèmes d'IA peuvent ne pas être transparents :

• Étiqueter les documents élaborés avec l'assistance de l'IA en précisant l'outil et la version utilisés.
• Définir des lignes directrices claires concernant l'utilisation autorisée de l'IA dans la création de documents.
• Documenter les processus d'IA, de la conception au déploiement, y compris les mécanismes permettant de garantir la confiance dans les systèmes d'IA.
• Donner la priorité aux outils d'IA du commerce respectant les cadres sur les droits de l'homme.
• Justifier et documenter toute utilisation de données personnelles ou de tiers.
• Indiquer clairement si les résultats de l'IA sont probabilistes plutôt que factuels.

Les Lignes directrices pour l’IA dans les parlements ont été produites par l’UIP en collaboration avec le Pôle parlementaire sur la science des données du Centre pour l'innovation au parlement de l'UIP. Ce document est soumis à une licence Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International. Il peut être librement partagé et réutilisé en mentionnant l'UIP. Pour plus d'informations sur les travaux de l'UIP en matière d'intelligence artificielle, veuillez consulter le site www.ipu.org/fr/impact/democratie-et-parlements-forts/lintelligence-artificielle ou contacter [email protected].