Cet article identifie quelques possibilités de déstabilisation ou d’atteinte à la démocratie par des systèmes d’intelligence artificielle.

Le mot démocratie est un mot valise aux multiples significations qui reflète des réalités diverses en fonctions des personnes qui y font référence, mais aussi des époques, des pays et des récits construits autour de la notion de démocratie. Notre analyse, qui n’a pas pour vocation d’être exhaustive, s’appuie sur la définition courante du mot démocratie pour identifier quelques situations où des techniques issues de l’informatique et des sciences cognitives (l’IA) sont mises en œuvre et constituent un facteur de risque pour la démocratie.

Démocratie : « doctrine politique d’après laquelle la souveraineté doit appartenir à l’ensemble des citoyens ; [une] organisation politique dans laquelle les citoyens exercent leur souveraineté ».

L’IA au service du mensonge politique

Si on considère que le mensonge fait partie des instruments du pouvoir, alors les deepfakes au service du mensonge politique et les techniques d’IA qui permettent de les réaliser le sont aussi.

L’IA, au service de l’art de la tromperie politique peut contribuer à renforcer l’asymétrie entre ceux qui gouvernement, ou qui souhaitent gouverner et les gouvernés, au détriment de la gouvernance par le peuple.

Ainsi, l’IA sert à l’exercice du pouvoir, à l’art et de simuler et de dissimuler, à l’art des apparences et du leurre.

« Le point est de bien jouer son rôle et de savoir à propos feindre et dissimuler ; et les hommes sont si simples et si faibles que celui qui veut tromper trouve aisément des dupes ». Le Prince, chap. XVIII. Machiavel (1469 – 1527).

Les techniques d’IA au service de la manipulation de l’information et de la prise de décision, associées à la viralité des réseaux sociaux, aux techniques de personnalisation des contenus et du ciblage des personnes, peuvent être des éléments de déstabilisation du pouvoir en place et de la population, par la manipulation des citoyens et de leurs dirigeants.

L’IA au service de l’ingérence étrangère

Si un parti politique peut recourir à l’IA pour gagner les élections et gouverner, si des gouvernants pour manipuler les gouvernés peuvent aussi le faire, des gouvernants et des acteurs étatiques étrangers le peuvent tout autant pour manipuler d’autres citoyens - ailleurs.

Les ingérences étrangères dans l’ensemble des processus démocratiques, sont déjà une réalité vécue un peu partout dans le monde (élections présidentielles, Brexit, …). La Résolution du Parlement européen du 9 mars 2022 sur l’ingérence étrangère et sur la désinformation dans l’ensemble des processus démocratiques de l’Union européenne, en témoigne par exemple.

Les techniques issues de l’intelligence artificielle sont un facteur de performance pour l’expression d’ingérences étrangères portant atteinte à la démocratie.

L’IA au service de la dictature

Si on considère que les mécanismes de la dictature s’appuient sur la destruction de la relation des citoyens avec la réalité alors l’IA peut devenir une arme au service des dictatures.

En effet, avec l’IA générative notamment, il est devenu aisé de transformer la réalité et de produire des contenus synthétiques (voix, données, images, vidéos, métavers, …) qui facilitent la manipulation des personnes, qui permettent de réécrire l’histoire, d’invisibiliser des faits, de les modifier, de faire de la propagande, de convaincre, de créer des hallucinations collectives et d’orienter, voire de prendre des décisions.

Ce qui est radicalement nouveau, ce sont les possibilités d’industrialisation et d’automatisation des procédés, la facilité et la rapidité avec lesquelles des produits du commerce peuvent le faire (cout minimal, conséquences maximales). La disponibilité d’outils et de produits du marché facilitent le passage à l’acte et la fabrication de fausses vérités absolument très crédibles pour piéger des personnes et orienter leurs actions. Ainsi par exemple, en janvier 2024, un employé basé à Hongkong d’une multinationale, a effectué un transfert de 25 millions de dollars à des escrocs à la suite de sa participation à une visioconférence truquée (deepfakée) où tous les autres participants avaient été fabriqués par de l’intelligence artificielle pour réaliser une extorsion de fonds. Les cas d’arnaques au président tirent parti des possibilités de clonage des voix et des images et deviennent de plus en plus efficaces grâce aux IA génératives.

Si on considère que les mécanismes de la dictature s’appuient sur le contrôle de la pensée, sur l’amnésie collective, sur la terreur et sur la répression, alors l’IA peut aussi être un instrument de performance pour des entités autoritaires et tyranniques, pour des régimes politiques totalitaires.

L’IA au service de l’appauvrissement du libre arbitre

Surveiller et évaluer le comportement des personnes est non seulement possible mais est largement renforcé par des systèmes d’IA. Avec leurs cohortes d’injonctions électroniques, ils imposent des modes d’actions aux individus. Cela contribue à créer des individus dociles qui se comportent conformément à des normes décidées, généralement de manière non démocratique, qui sont transcrites dans des programmes informatiques conçus notamment dans l’obscurité du monde des affaires. (Voir en particulier mon article sur le site de l’Académie suisse des sciences humaines et sociales « Gouvernance algorithmique et démocratie, des finalités divergentes ? »).

En ayant intégré et intériorisé les contraintes des systèmes et l’invisibilité des moyens de surveillance, dans un contexte de connexion permanente, les individus s’auto-sanctionnent et s’auto-censurent à titre préventif.

En soumettant les personnes à la surveillance et à la gouvernance algorithmiques, en confisquant la possibilité de toute pensée personnelle et d’actions différentes de celles décidées par les dispositifs d’IA, comment des citoyens peuvent-ils être en mesure d’exercer leur souveraineté ? De quelle souveraineté s’agit-il ?  

L’IA au service d’instances de justice et police

En France par exemple, c’est en 2020 que les algorithmes Datajust faisant appel à l’intelligence artificielle, ont fait leur entrée dans des tribunaux.

Est-il possible d’être en mesure de contrôler et de s’assurer de la qualité, de la fiabilité de la sécurité des traitements et des données (explicabilité, véracité, robustesse, absence de biais, …) utilisés ?

Comment apprécier l’usage de systèmes d’IA et le rôle des acteurs de la Tech dans le fonctionnement judiciaire ?

 Quelle confiance accorder aux entreprises (LegalTech) qui produisent des logiciels qui accompagnent les prises de décision des acteurs des institutions de justice et police?

Que veut dire, concrètement pour les citoyens et le fonctionnement démocratique des institutions, le fait de déléguer dans le domaine de la justice, à des systèmes d’IA, la prise de décision  alors que des défauts et des erreurs des systèmes d’IA utilisés dans des contexte de justice et police existent déjà notamment liés à la vidéosurveillance à reconnaissance faciale, à la police prédictive, à la notation des citoyens, … ?

« Pour qu’il y ait justice et non application mécanique d’une règle aux conséquences parfois inadaptées, voire iniques, il faut que, dans un certain nombre de contentieux, un juge intervienne, avec le pouvoir de moduler la décision − donc de s’abstraire de l’automaticité que crée l’algorithme ». Laurence Pécaut-Rivolier, Stéphane Robin.

L’IA amplificateur de problèmes sécuritaires

Les risques liés à la prolifération des technologies d'IA à double usage peuvent avoir des conséquences de sécurité potentiellement importantes, tant au niveau national qu’international.

L’IA peut augmenter et amplifier les menaces existantes et générer de nouvelles menaces qui ont des impacts aux niveaux politique, de la sécurité physique et de la cybersécurité mais aussi concerner des domaines sensibles liés par exemple aux infrastructures critiques, à la santé et à la défense nationale (le chapitre 4 de mon livre Cybercriminalité. Comprendre. Prévenir. Réagir (Dunod 2023) aborde ces problématiques).

L’IA au service du pouvoir, au cœur des questions de géopolitiques

Les infrastructures, les services, les données et l’IA font partie des instruments du pouvoir et sont l’objet d’une concurrence entre les grandes puissances. Cela ne peut pas être neutre du point de vue démocratique.

Comment dès lors penser la démocratie alors que des entreprises privées sont désormais en mesure d’imposer un nouvel ordre du monde basé sur des technologies qui ont le potentiel de pouvoir saper la démocratie ?

Dépendances à l’IA et perspectives pour la démocratie

Désormais, les pays dotés d’un bon niveau de formation, ne devront plus se contenter d’être des pourvoyeurs de compétences humaines, de personnes bien formées qui s’expatrient mais qui parfois n’ont même plus besoin de s’expatrier pour développer des systèmes d’IA pour le compte d’acteurs hégémoniques étrangers.

L’issue de la dépendance à des fournisseurs d’IA dépendra entre autres :

• Des changements opérés par l’adoption massive de systèmes d’IA pour gérer les affaires communes.

• De la manière dont l’IA changera les structures et les acteurs du pouvoir.

• Des stratégies d’expansion et de domination des acteurs hégémoniques de la tech.

Nous ne pouvons plus ignorer la nécessité de savoir qui maitrise et contrôle les systèmes d’IA que nous utilisons dans les régimes politiques à vocation démocratique mais aussi dans les médias et en particulier, dans l’éducation.

Pour cela, savoir apprécier ce qui est techniquement possible, économiquement faisable et socialement et démocratiquement souhaitables, est impératif.

Cela passe par la compréhension de la manière dont l'IA influence nos relations sociales, modifie nos modes de fonctionnement et de décision et de savoir quelles relations nous avons, nous voulons avoir avec les systèmes d’IA et leurs fournisseurs.

À suivre …