Le gouvernement fédéral a dévoilé hier son Registre public d’intelligence artificielle, cataloguant plus de 400 systèmes d’IA actuellement déployés ou en développement dans divers ministères. Cette initiative de transparence fait du Canada l’un des rares pays au monde à documenter publiquement l’utilisation de l’IA gouvernementale à cette échelle.
« Ce registre ne vise pas simplement à cocher une case réglementaire, » a déclaré le ministre de l’Innovation, des Sciences et de l’Industrie François-Philippe Champagne lors du lancement virtuel. « Il s’agit de bâtir la confiance du public grâce à la transparence alors que l’IA s’intègre de plus en plus dans les opérations gouvernementales. »
Le registre, accessible via un portail en ligne consultable, révèle la portée étonnamment large de l’adoption de l’IA dans les services fédéraux. Les projets vont des algorithmes prédictifs en sécurité frontalière aux outils de traitement du langage naturel qui résument les notes d’information ministérielles. Chaque entrée comprend des informations sur l’objectif du système, son fonctionnement, les résultats d’évaluation des risques et le ministère qui le supervise.
Ce qui est frappant dans ce registre, ce n’est pas seulement sa taille mais la diversité des applications. L’Agence du revenu du Canada arrive en tête avec 67 implémentations d’IA, principalement axées sur la détection de fraude fiscale et les outils d’évaluation automatisée. Pendant ce temps, Immigration, Réfugiés et Citoyenneté Canada a déployé 52 systèmes, y compris des modèles prédictifs controversés pour le traitement des visas et l’analyse des tendances d’établissement.
« Nous voyons un gouvernement qui s’est tranquillement transformé en un opérateur d’IA significatif, » a expliqué Michael Karlin, directeur exécutif du Bureau de gouvernance et de surveillance de l’IA. « Ces systèmes touchent la vie des Canadiens de façons que la plupart des gens ne réalisent pas. »
Le registre émerge au milieu d’un débat mondial croissant sur la responsabilité algorithmique au sein du gouvernement. Plusieurs organisations canadiennes de libertés civiles ont déjà commencé à analyser les données du registre, avec des réactions initiales mêlant une approbation prudente pour la transparence et des préoccupations concernant la mise en œuvre.
« Avoir finalement cette information publique est une première étape cruciale, » a déclaré Maya Kotecha, directrice des droits numériques à l’Association canadienne des libertés civiles. « Mais ce que nous voyons soulève de sérieuses questions sur les évaluations d’impact algorithmique et si ces systèmes sont déployés avec des garanties adéquates. »
Un examen plus approfondi du registre révèle qu’environ 40% des systèmes sont classés comme ayant un impact « modéré à élevé » sur les droits, la santé, les intérêts économiques ou l’environnement. Ces systèmes à risque plus élevé font face à des exigences de gouvernance supplémentaires, incluant des mécanismes de surveillance humaine et des audits réguliers.
Un de ces systèmes déployé par Emploi et Développement social Canada utilise la modélisation prédictive pour signaler les fraudes potentielles à l’assurance-emploi, résultant en environ 14 000 demandes signalées pour révision humaine mensuellement. L’entrée du registre note que le système a subi trois séries de tests de biais avant son déploiement.
Les observateurs de l’industrie notent que le registre fonctionne également comme un aperçu révélateur des modèles d’approvisionnement en IA du Canada. IBM, Microsoft et Amazon émergent comme les fournisseurs dominants, bien que plusieurs entreprises canadiennes, notamment Element AI (maintenant partie de ServiceNow) et Mindbridge Analytics, y figurent également en bonne place.
« Cela montre que le gouvernement est devenu un client majeur pour les services d’IA, » a expliqué Raquel Urtasun, professeure à l’Université de Toronto et fondatrice de l’entreprise de technologie de conduite autonome Waabi. « Cela crée à la fois des opportunités et des responsabilités pour l’écosystème canadien de l’IA. »
Le commissaire à la protection de la vie privée Philippe Dufresne a exprimé un soutien nuancé pour le registre tout en notant que son bureau surveillera comment les systèmes répertoriés s’alignent avec la loi sur la protection de la vie privée. « La transparence est nécessaire mais pas suffisante, » a déclaré Dufresne dans un communiqué. « Nous surveillerons attentivement comment ces systèmes gèrent les informations personnelles et si les Canadiens sont adéquatement informés lorsque des systèmes d’IA prennent des décisions les affectant. »
Le registre révèle également des lacunes surprenantes. Les agences de sécurité nationale sont exemptées des exigences de divulgation complète, bien qu’elles doivent toujours documenter les systèmes en interne. De plus, certains ministères semblent sous-représentés malgré leur taille et leurs responsabilités envers le public.
Le moment du lancement du registre coïncide avec la mise en œuvre par le Canada de la Loi sur l’intelligence artificielle et les données (LIAD), qui établit de nouvelles exigences réglementaires pour les systèmes d’IA à impact élevé tant au gouvernement que dans le secteur privé.
Pour les Canadiens ordinaires, le registre offre une visibilité sans précédent sur la façon dont les algorithmes influencent les services gouvernementaux avec lesquels ils interagissent. Un résident de Toronto vérifiant son évaluation fiscale, un nouvel arrivant demandant la résidence permanente, ou une petite entreprise cherchant un financement gouvernemental peut maintenant retracer quels systèmes automatisés ont influencé ces processus.
« Nous sommes entrés dans une ère où la prise de décision algorithmique touche presque tous les aspects de la gouvernance, » a déclaré Teresa Scassa, Chaire de recherche du Canada en droit et politique de l’information à l’Université d’Ottawa. « Ce registre aide à démocratiser cette connaissance. »
À l’avenir, le registre sera mis à jour trimestriellement, tous les ministères fédéraux étant tenus de documenter les nouvelles mises en œuvre d’IA dans les 60 jours suivant leur déploiement. Le gouvernement a également lancé un mécanisme de rétroaction permettant au public de signaler des préoccupations concernant des systèmes spécifiques.
En parcourant les entrées du registre hier, ce qui m’a frappé n’était pas seulement l’ampleur de l’adoption de l’IA, mais à quel point cela s’était produit discrètement. Plusieurs de ces systèmes fonctionnent depuis des années sans que le public le sache. Reste à voir si cette nouvelle transparence mènera à une responsabilisation significative, mais au minimum, les Canadiens ont maintenant une visibilité sans précédent sur la façon dont leur gouvernement est transformé par les algorithmes.
