La loi 194 : Une occasion manquée de faire de l’Ontario un chef de file de l’intelligence artificielle

Si je vous disais que la technologie la plus révolutionnaire de notre époque, l’intelligence artificielle, influe déjà sur le quotidien des Ontariennes et des Ontariens, sans les mesures de protection que ceux-ci méritent?

La Loi de 2024 visant à renforcer la cybersécurité et la confiance dans le secteur public, sans doute le projet de loi le plus important de la session législative en cours, a été adoptée lundi dernier. 

La loi 194 régit des enjeux numériques parmi les plus marquants de notre époque : la cybersécurité, l’intelligence artificielle et les renseignements numériques des enfants. Or, la plupart de ses règles importantes seront contenues dans des règlements futurs que prendra le gouvernement pour régir ses propres institutions publiques. Cette loi présente des lacunes sur le plan de la transparence et du processus démocratique et ne prévoit pas explicitement une surveillance indépendante, ce qui devrait inquiéter toute la population ontarienne. 

L’IA transforme déjà les services publics en Ontario en influant sur les décisions prises dans les domaines des soins de santé, de l’éducation et ses services sociaux. Utilisée judicieusement, l’IA peut accroître l’efficacité et améliorer les résultats. Mais si on en abuse, elle peut causer de graves préjudices et donner lieu à de la discrimination. La loi 194 était pour l’Ontario une occasion d’encadrer clairement l’utilisation de l’IA dans le secteur public. Malheureusement, nous avons manqué cette occasion, et les Ontariennes et Ontariens sont dépourvus de la certitude et des protections qu’ils méritent.

Lorsque les systèmes d’IA influent sur des décisions qui se répercutent sur le quotidien des gens, nous devons exiger qu’ils respectent les principes fondamentaux qui nous sont chers en tant que société. 

Pour être dignes de confiance, les systèmes d’IA doivent être valides et fiables. Ils doivent faire l’objet d’essais poussés et d’une supervision humaine pour s’assurer qu’ils fonctionnent correctement dans des situations réelles, compte tenu des fins auxquelles ils ont été conçus et sont utilisés ou mis en œuvre.

Ces systèmes doivent être sécuritaires et conçus pour protéger notre vie, notre santé physique et mentale, nos biens, notre sécurité économique et l’environnement. Pour s’en assurer, il faut les assujettir à des mesures strictes de surveillance et de cybersécurité.

Les systèmes d’IA doivent être élaborés selon une approche de protection intégrée de la vie privée, en prévoyant des mesures de protection dès l’étape de la conception pour minimiser la collecte de données, réduire les risques pour la vie privée et la sécurité et faire en sorte que des renseignements personnels ne soient utilisés que lorsqu’ils sont vraiment nécessaires. 

Les institutions doivent faire preuve de transparence quant à leur recours à l’IA en adoptant des politiques et pratiques accessibles qui expliquent clairement aux Ontariennes et aux Ontariens comment elles utilisent l’IA et qui protègent leur droit à l’information. 

Elles doivent aussi établir des règles et processus clairs pour gérer chaque étape du développement des systèmes d’IA : création, utilisation, modification ou mise hors service. 

Les décisions prises au moyen de l’IA doivent être traçables; ainsi, les institutions doivent expliquer clairement comment les décisions automatisées sont prises et assumer la responsabilité de leurs résultats. Il doit être possible de contester les décisions prises par l’IA, et les institutions doivent être assujetties à une surveillance indépendante.

Surtout, l’IA doit garantir les droits des particuliers et des communautés et lutter contre les préjugés historiques afin que les décisions prises par des systèmes d’IA ou à l’aide de tels systèmes soient équitables, non discriminatoires et respectueuses de la dignité humaine. 

Ce sont là des principes fondamentaux. Or, ils sont absents de la loi 194. Celle-ci autorise plutôt le ministre à établir des règles par voie de règlement. Les règlements sont plus faciles à prendre et à modifier à mesure que la technologie évolue. Une telle souplesse pourrait sembler logique sur le plan technique, mais pas sur celui des principes. 

Peut-on même imaginer un monde où l’IA ne serait pas valide et fiable, sûre, respectueuse de la vie privée, transparente, responsable et protectrice des droits de la personne?  

Ces principes reconnus dans le monde entier auraient dû être codifiés dans la loi 194 pour témoigner clairement de l’engagement du gouvernement de les faire respecter. Les institutions publiques souhaitant intégrer des données des Ontariennes et des Ontariens dans leurs systèmes d’IA ou d’autres applications devraient être tenues de suivre ces principes comme condition non négociable du contrat social. Des principes aussi fondamentaux ne devraient pas être soumis aux aléas d’un processus réglementaire obscur. 

De plus, ces principes ne peuvent pas exister en vase clos : il faut exercer une surveillance indépendante pour en assurer le respect et tenir les institutions publiques responsables des utilisations abusives et des préjudices éventuels. La loi 194 ne prévoit aucun mécanisme clair ou direct permettant aux particuliers de porter plainte à mon bureau en cas de préoccupations légitimes concernant la collecte exagérée, l’utilisation abusive ou l’inexactitude de leurs renseignements personnels et les décisions importantes qui sont prises à leur sujet, y compris au moyen de l’IA.

Faute de balises légales et de surveillance indépendante explicite, la loi 194 est une occasion manquée de susciter la confiance des Ontariennes et des Ontariens dans l’avenir numérique prospère que l’IA promet de leur réserver, à eux et à leurs enfants. 

Cela dit, nous devons poursuivre nos efforts. Tout au long du processus réglementaire, je continuerai à réclamer des mesures de protection plus rigoureuses, des mécanismes de reddition de comptes plus clairs et une surveillance indépendante, afin que l’IA soit au service des Ontariennes et des Ontariens, et non l’inverse.