En 2019, un vif émoi a été suscité par l’apparition déconcertante de l'ancien premier ministre italien Matteo Renzi dans une émission d'information satirique, où il a proféré des insultes à l'encontre de ses homologues politiques, menacé de quitter le plateau et utilisé un langage inapproprié.
Cependant, peu après la diffusion de la vidéo, il est apparu que ce n'était pas M. Renzi qui parlait. Il s'agissait d'une parodie sophistiquée relevant du "deepfake" (contenu trafiqué). En y regardant de plus près, la voix et les gestes étaient légèrement différents de ceux du vrai M. Renzi et son visage semblait anormalement lisse.
Quatre ans plus tard, les deepfakes sont devenus plus sophistiqués, plus répandus et plus dangereux.
Dans le domaine dynamique de l'intelligence artificielle (IA), leur infiltration perpétue la diffusion de fausses informations par le biais de manipulations numériques remarquablement réalistes.
En 2024, année d'élections majeure, la présence de deepfakes sera plus importante que jamais. Des élections auront lieu dans plus de 50 pays, concernant au total près de la moitié de la population mondiale. Par conséquent, l'année 2024 devrait être marquée par une recrudescence de ces contenus et de la désinformation.
Tromper, embraser, diviser
Les décideurs politiques du monde entier s'inquiètent de la façon dont les deepfakes peuvent induire en erreur, embraser, diviser et affaiblir nos sociétés. S'ils ne sont pas maîtrisés, ils peuvent facilement servir des fins personnelles, professionnelles ou politiques. Dans le cas des responsables politiques, ils sont utilisés dans le cadre de campagnes politiques pour discréditer les adversaires. Dans un monde fortement polarisé, les deepfakes sont un outil d'ingérence et de subversion étrangère.
"La technologie peut être utilisée à mauvais escient pour diffuser très efficacement des fausses nouvelles et de la désinformation", explique Jutta Jahnel, de l'Institut de technologie de Karlsruhe. "Des documents audio falsifiés peuvent être utilisés pour influencer ou discréditer des procédures judiciaires et, à terme, menacer le système judiciaire. Une vidéo truquée peut être utilisée non seulement pour nuire personnellement à une personnalité politique, mais aussi pour compromettre les chances de son parti aux élections, ce qui met en péril la confiance dans les institutions démocratiques en général."
Bien sûr, mentir sur ses adversaires politiques n'est pas une tactique nouvelle. Cependant, le degré de manipulation et la rapidité avec laquelle les mensonges peuvent être diffusés ont changé à jamais le rapport à la vérité. La notion selon laquelle "voir, c'est croire" n’est plus d’actualité.
"La possibilité d'influencer le résultat d'une élection est réelle, en particulier si l'auteur est capable de programmer la diffusion de manière qu'il y ait suffisamment de temps pour que le contenu trafiqué circule, mais pas assez pour que la victime puisse le démentir efficacement – à supposer qu'il puisse être démenti", explique Danielle Citron, spécialiste des deepfakes et professeur à la Faculté de droit de l'Université de Virginie.
Bangladesh
Au cours des derniers mois, le Bangladesh a donné un aperçu de la manière dont les risques susmentionnés peuvent rapidement se concrétiser.
Certaines chaînes de médias et personnalités influentes du Bangladesh ont activement diffusé des informations erronées générées par l'IA et produites à l'aide d'outils bon marché et accessibles.
Dans une vidéo publiée sur X, un présentateur de l'émission "World News" a présenté une séquence en studio, entrecoupée d'images d'émeutes, dans laquelle il accusait les diplomates américains d'interférer dans les élections bangladaises et les rendait responsables des violences politiques. La vidéo a été réalisée à l'aide de HeyGen, un générateur de vidéos basé à Los Angeles qui crée des clips animés par des avatars d'IA à partir de 24 USD par mois.
Le célèbre vérificateur de faits bangladais Qadaruddin Shishir estime que la récurrence de la désinformation et des deepfakes pendant les élections est le résultat d'efforts coordonnés visant à déstabiliser la scène politique.
Les femmes sur la scène publique
Bien entendu, les nouvelles technologies sophistiquées, y compris l'IA et les deepfakes, présentent également des avantages. La démocratisation des outils d'IA ouvre de nouveaux horizons dans divers domaines, notamment le divertissement, l'art et même la criminalistique. Les deepfakes peuvent servir de sources de satire et de parodie, en amusant les spectateurs, à condition que ceux-ci comprennent que le contenu n'est pas réel.
Cependant, l'infiltration des deepfakes dans des activités malveillantes présente des risques importants pour les individus et les institutions. Ils ont été utilisés pour ternir des réputations et usurper l'identité de personnes, comme ce fut le cas au Royaume-Uni avant les élections de 2024, ce qui a amené les parlementaires à exprimer leur inquiétude quant au risque que l'IA ne perturbe l'intégrité des élections.
Les femmes, qu'elles soient sur la scène publique ou simples citoyennes, sont particulièrement vulnérables à la manipulation en ligne. La technologie responsable des deepfakes est largement utilisée pour placer des femmes politiques dans des situations fausses mais compromettantes.
Selon le professeur Clare McGlynn, experte juridique en matière de violence en ligne, "il existe des exemples [...] où la pornographie deepfake a été utilisée contre des femmes publiques et des femmes politiques pour les harceler et les agresser, en minimisant la gravité des actes. Il s'agit sans aucun doute d'une arme contre les femmes politiques".
Ce phénomène s'inscrit dans une tendance plus large de violences à l'encontre des femmes sur la scène publique. Le sexisme, le harcèlement et la violence envers les femmes parlementaires deviennent rapidement un problème mondial qui entrave l'égalité des sexes et sape les fondements de la démocratie.
L'UIP a pris l'initiative de documenter et d'identifier les meilleurs moyens de lutter contre ce phénomène. Consultez nos dernières publications sur la violence à l'égard des femmes parlementaires et sur les moyens de l'éliminer.
Renforcer la vérité
Alors que les deepfakes générés par l'IA continuent de proliférer, les initiatives visant à renforcer l'éducation aux médias sont cruciales pour cultiver un public averti.
Comment pouvons-nous donc renforcer la vérité à l'ère des deepfakes ?
Sam Gregory, Directeur exécutif de WITNESS, une organisation internationale à but non lucratif qui aide le public à utiliser la vidéo et les technologies pour protéger et défendre les droits de l'homme, affirme que les avancées technologiques deviennent si sophistiquées qu'il n'est pas raisonnable d'attendre des consommateurs et des citoyens qu'ils soient capables de "repérer" les images et les paroles mensongères.
"Les conseils qui consistent à "repérer les mains à six doigts ", à inspecter les erreurs visuelles sur l'image du Pape en doudoune, à vérifier si une image suspecte cligne des yeux ou à écouter très attentivement le son dans l'espoir d'entendre une erreur ne sont pas suffisants et ne sont d'aucune utilité à long terme, ni même à moyen terme," déclare-t-il.
C'est pourquoi il est urgent de mettre en place une législation ciblée, des techniques dynamiques relatives à la provenance et à la divulgation, ainsi que des outils de détection des dommages potentiels, afin de faire face aux menaces croissantes.
Ces mesures doivent s'accompagner d'efforts de collaboration de la part de l'industrie des technologies, de la société civile et des décideurs politiques. Comme toujours, les parlements joueront un rôle essentiel pour mettre tous les acteurs sur la même longueur d'onde.
Ateliers de l'UIP à l'intention des parlementaires
L'UIP a organisé trois ateliers de renforcement des capacités entre janvier et mars, ouverts aux parlementaires et au personnel parlementaire. Les ateliers sur l'intelligence artificielle serviront à préparer la résolution à venir de l'UIP intitulée L’impact de l’intelligence artificielle sur la démocratie, les droits de l’homme et l’état de droit. Cette résolution sera examinée lors de la 148e Assemblée de l'UIP en mars, en vue d'être adoptée lors de la 149e Assemblée de l'UIP en octobre.
1. Un secteur en mutation : vue d'ensemble sur les récentes avancées en intelligence artificielle, lundi 22 janvier 2024, 15 h (Genève, HNEC). Modéré par Michelle Rempel Garner, membre de la Chambre des communes du Canada, co-rapporteure de la résolution de l'UIP. Voir l'enregistrement.
2. L'intelligence artificielle et ses nouveaux effets sur la société, jeudi 15 février 2024, 10 h (Genève, HNEC). Modéré par Neema Lugangira, membre du Parlement de la République-Unie de Tanzanie, co-rapporteure de la résolution de l'UIP. Voir l'enregistrement.
3. Réponses mondiales aux nouvelles avancées en intelligence artificielle, mercredi 6 mars 2024, 15 h (Genève, HNEC). Modéré par Denis Naughten, membre du Dáil Éireann d'Irlande, Président du Groupe de travail de l'UIP sur la science et la technologie. S'inscrire
