On a bien vu lors de la récente pandémie les effets pervers que pouvaient avoir les médias sociaux en facilitant la propagation d’opinions extrêmes mal fondées. Maintenant, arrive l'intelligence artificielle générative (ChatGPT) dotée de bien plus grandes capacités de transformation sociétales. Aux mains d’acteurs mal informés ou mal intentionnés, l’IA peut faire dévier le débat démocratique C’est l’opinion exprimée par Danielle Allen, dans le Washington Post du 26 avril 2023. Celle-ci pose une question vitale : « Une démocratie saine pourrait régir cette nouvelle technologie et en faire bon usage d'innombrables façons. Elle développerait des défenses contre les personnes qui l'utiliseraient de manière contraire au bien commun. Elle envisagerait la transformation économique qu’elle engendre et commencerait à élaborer des plans pour faire face à un ensemble de transitions rapides et surprenantes. Mais notre démocratie est-elle prête à relever ces défis de gouvernance ? ».
J'énumère ici quelques uns des risques importants pour la démocratie de l'usage de l'IA lorsqu'utilisée des personnes mal intentionnées ou mal informées.
La propagation de la désinformation. Les technologies d’IA générative (IAG) peuvent produire d’énormes quantité d’images et de textes, renforçant ainsi certaines opinions plutôt que d’autres. Le problème n'est pas seulement le risque de campagnes massives de désinformationElles peuvent propager beaucoup de fausses informations, perturber les processus de consultation publique sur les lois et les réglementations, inonder les législateurs d'une sensibilisation artificielle à certaines opinions de l’électorat, aider à automatiser le lobbying des entreprises ou même écrire des lois favorisant des intérêts particuliers.
La perte de contrôle des outils d'IAG. Une forte centralisation des décisions relatives à l'IAG survient à cause de la masse énorme de données nécessaires aux systèmes d’IA dont l'accès et le traitement n'est possible qu'à un petit nombre d’organisations. Actuellement, pour la première fois dans l’histoire, cinq entreprises, les GAFAM, présentent une capitalisation boursière américaine dépassant les mille milliards de dollars US et monopolisent le développement de l'IAG.
L’opacité de la prise de décision. Dans un contexte de défiance de plus en plus prononcé des populations envers l’appareil politique, une université espagnole a réalisé en 2019 un sondage demandant aux Européens s’ils seraient prêts à laisser une intelligence artificielle prendre des décisions importantes pour l’avenir de leurs pays; 25 % des Français y étaient favorables, 30 % en Allemagne et 43 % aux Pays-Bas. Or les recommandations des systèmes d’IA reposent sur l’apprentissage profond dont les processus sont naturellement opaques et ne peuvent être expliqués aux administrés, contredisant la transparence et la responsabilité que l’on réclame de nos gouvernants.
Les biais discriminatoires. Les milliards de données nécessaires à l'entrainement des IAG portent des sont fournies en plus grand nombre par les personnes ou les groupes qui en produisent le plus. Il est difficile aux concepteurs de l’IA d’éviter que leurs systèmes fournissent des recommandations basée sur des préjugés ou les diverses formes de discrimination présentes dans les données d’entrainement.
Il faut insister sur l'urgence d'agir auprès de notre gouvernement. Notre statut de province fait en sorte que la responsabilité des communications relève actuellement d'Ottawa. Le gouvernement canadien a déposé, dans le cadre du projet de loi C-27, une trop brève Loi sur l'intelligence artificielle et les données. Celle-ci vise à établir « un juste équilibre entre la protection de la population canadienne et les impératifs liés à l’innovation » mais elle laisse essentiellement le soin aux organisations de s'autoréguler, ce qui n’offre aucune garantie. À l’image des médicaments en santé, un gouvernement responsable devrait établir un processus rigoureux d’approbation des systèmes avant leur diffusion, tout en élaborant une politique d’investissement orientée vers les applications les plus utiles au bien commun, et favorisant l’éducation de la population à l’usage de ces technologies.
