Principes éthiques : Robustesse et sécurité

Cette sous-ligne directrice fait partie de la ligne directrice Principes éthiques. Se reporter à la ligne directrice principale pour le contexte et une vue d'ensemble.

Cette sous-ligne directrice aborde le principe de robustesse et sécurité dans la gouvernance de l'IA pour les parlements, en soulignant que, pour être dignes de confiance, les systèmes d'IA doivent être robustes face aux situations hostiles et aux changements dans l'environnement pour lequel ils ont été conçus.

Cette sous-ligne directrice présente le principe de robustesse et sécurité sous deux angles : la résilience aux défaillances, qui pourraient entraîner des atteintes aux personnes, aux organisations ou à l'environnement ou pourraient empêcher la traçabilité, et la résilience aux cyberattaques.

Dans l'ensemble, cette sous-ligne directrice propose un cadre permettant aux parlements de développer et de maintenir des systèmes d'IA robustes et sûrs.

Les cyberattaques contre les systèmes d'IA exploitent à la fois l'opacité des algorithmes et leur forte dépendance aux données. De telles attaques peuvent être difficiles à détecter à temps et nécessitent des pratiques de gestion de la sécurité des systèmes d'IA qui englobent des techniques avancées de prévention et se concentrent sur le rétablissement des conditions normales de fonctionnement du système et de l'ensemble de l'environnement.

Des défaillances peuvent survenir dans les systèmes d'IA si des variables prennent des valeurs inconnues ou fausses qui n'ont pas été prises en compte par le développeur et que celui-ci n'a pas prévu d'éviter dans son programme. Bien que les systèmes d'IA soient généralement censés être robustes, si de telles défaillances se produisent, un mécanisme doit exister pour rétablir en temps voulu et de manière responsable le système à son état normal, avec une perte minimale de données ou un impact minimal sur le parlement.

Pour garantir la robustesse et la sécurité des systèmes d'IA, les parlements doivent adopter une approche globale et dynamique de la gestion des risques qui s'adapte à l'environnement en constante évolution dans lequel ces systèmes opèrent. Les composantes de cette approche sont détaillées ci-dessous :

• Test complet : identifier et atténuer les cybermenaces ciblant spécifiquement les systèmes d'IA, sans négliger les autres vulnérabilités potentielles.
• Pratiques de sécurité : adapter les pratiques de sécurité aux défis particuliers posés par les systèmes d'IA et aux menaces auxquelles ils sont confrontés, notamment par une communication étroite et rapide entre les équipes chargées des données et les experts en sécurité de l'information. Lors du développement des systèmes d'IA, la cybersécurité doit être une considération majeure, intégrée dès le départ, et non pas ajoutée après coup.
• Formation : investir dans la formation continue des développeurs et du personnel chargé de la sécurité de l'information. Ce personnel doit connaître les techniques de prévention des cyberattaques contre les systèmes d'IA et disposer de stratégies de reprise après sinistre spécifiques à ces technologies.
• Collaboration interne : veiller à ce que les unités internes responsables des systèmes d'IA travaillent en étroite collaboration avec les services informatiques afin d'établir des paramètres clairs pour surveiller le comportement des systèmes et définir des seuils d'alerte en cas d'activité suspecte.
• Partenariats externes : créer des partenariats avec d'autres institutions publiques. Ces alliances facilitent une communication rapide et efficace sur les menaces émergentes et les nouvelles catégories d'attaques. Elles constituent également une plateforme de partage d'expériences – réussites comme échecs – dans la mise en œuvre de diverses techniques et technologies de sécurité.

En adoptant cette approche holistique, les parlements peuvent créer un cadre résilient pour les systèmes d'IA qui peuvent ainsi résister aux menaces, s'adapter aux changements et continuer à servir de manière efficace et sûre leur objectif.

Lors de la mise en œuvre de l'IA générative dans des contextes parlementaires, les considérations de sécurité sont primordiales :

• Assurer un contrôle strict de l'accès aux données, en veillant à ce que les systèmes et outils d'IA n'interagissent qu'avec des données spécifiquement autorisées pour l'usage auquel elles sont destinées. Cette approche permet de protéger les informations sensibles et de maintenir l'intégrité des processus parlementaires.
• Si le transfert de données vers des services externes sur le cloud pose des problèmes de sécurité ou présente d'autres risques, il convient d'étudier d'autres solutions. Une option viable consiste à utiliser des modèles d'IA générative à source ouverte pouvant être exécutés localement sur les propres systèmes du parlement. Cette stratégie permet de bénéficier des avantages de l'IA générative tout en offrant un contrôle total sur la sécurité, la gestion et l'intégrité des données.

En adoptant ces mesures, les parlements peuvent exploiter la puissance de l'IA générative tout en respectant les normes les plus strictes en matière de protection des données et de sécurité opérationnelle.

Les Lignes directrices pour l’IA dans les parlements ont été produites par l’UIP en collaboration avec le Pôle parlementaire sur la science des données du Centre pour l'innovation au parlement de l'UIP. Ce document est soumis à une licence Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International. Il peut être librement partagé et réutilisé en mentionnant l'UIP. Pour plus d'informations sur les travaux de l'UIP en matière d'intelligence artificielle, veuillez consulter le site www.ipu.org/fr/impact/democratie-et-parlements-forts/lintelligence-artificielle ou contacter [email protected].