Innover sur demande : Réglementer l'intelligence artificielle

Dans un monde où l'on tente tant bien que mal de suivre le rythme, comment les technologies émergentes peuvent-elles modifier notre façon de travailler?

Dans cet épisode d'Innover sur demande, Scott McNaughton de l'École de la fonction publique du Canada aborde la façon dont les régulateurs fédéraux peuvent intégrer les nouvelles technologies, notamment l'intelligence artificielle, et les réglementations pour régir leur travail. Scott traitera aussi des projets en cours à l'École dans ce domaine, et de la façon dont ces nouvelles technologies peuvent nous permettre d'alléger et d'accomplir des tâches complexes et fastidieuses.

Durée : 43:36

Transcription

Innover sur demande : Réglementer l'intelligence artificielle

TODD
Je suis Todd Lyons.

NATALIE
Je suis Natalie Crandall.

VALERIA
Je suis Valeria Sosa.

SCOTT
Et je suis Scott McNaughton.

TODD
Et voici le balado Innover sur demande.

Que vous soyez un citoyen ou une entreprise, il peut être difficile de se repérer dans les politiques, les règlements et les lois. Comment un être humain peut-il s'y retrouver dans des milliers de mots écrits dans un vocabulaire officiel et juridique complexe? Nous essayons de plus en plus de déléguer ce travail difficile à un assistant mieux adapté à la tâche : un logiciel. En convertissant les règles en code, nous pouvons plutôt nous concentrer sur le fait de demander à l'IA de nous fournir les détails relatifs à notre situation, comme l'admissibilité, les avantages, les obligations et les restrictions.

Bienvenue, Scott.

VALERIA
Comment allez-vous? Pourriez-vous nous en dire un peu plus sur l'objet de votre travail?

SCOTT
Oui, je travaille sur ce qu'on appelle les projets de démonstration réglementaire. Ce sont des projets qui sont censés montrer aux organismes de réglementation fédéraux les possibilités des technologies nouvelles et émergentes. Des choses comme l'IA, la chaîne de blocs et les règles en tant que code. Je vais partir du principe que la plupart des gens savent ce qu'est l'intelligence artificielle. La plupart des gens savent ce qu'est une chaîne de blocs, mais peut-être pas les règles en tant que code. Les règles en tant que code sont donc un concept relativement nouveau pour le gouvernement. C'est le processus qui consiste à convertir vos règles, qu'il s'agisse de règlements, de normes ou de politiques, en code lisible par machine. Et lorsque nous le faisons, et que nous le publions sous forme de code source ouvert et d'interface de protocole d'application ou API, nous pouvons créer des applications et des services qui permettent aux entreprises réglementées de comprendre quelles sont leurs exigences pour être conformes. Nous pouvons, jusqu'à un certain point, automatiser la prise de décision en ce qui concerne les licences, les permis et les certificats. Parce que vos règles, en fin de compte, sont une série d'énoncés « si..., alors... » Je simplifie beaucoup. Mais si vous faites quelque chose, vous obtenez une pénalité ou si vous êtes une personne de tel ou tel type, vous êtes admissible à cette prestation. Et c'est ce qu'un ordinateur comprend — beaucoup d'énoncés « si..., alors... ». Si nous pouvons transformer nos règles en ces énoncés, alors cela ouvre un tout nouveau monde de possibilités : offrir un meilleur service de réglementation, assurer une meilleure conformité à la réglementation et peut-être même faire entrer le gouvernement dans l'ère numérique dans tous les sens du terme.

NATALIE
Vous avez connu de grandes réussites et des victoires importantes dans votre projet récemment. Peut-être pourriez-vous nous en dire un peu plus à ce sujet et sur ce que vous avez créé.

SCOTT
Oui, nous avons un portefeuille de projets en ce moment. L'un d'eux est le projet d'incorporation par renvoi et, pour ceux qui ne savent pas de quoi il s'agit, l'incorporation par renvoi est une technique couramment utilisée par les organismes de réglementation pour faire référence à d'autres documents dans leur réglementation. Et ces autres documents ne sont pas nécessairement des documents du gouvernement du Canada. Ils pourraient être publiés par des organismes de normalisation ou d'autres organismes dans le monde. Le Comité mixte d'examen de la réglementation a posé deux questions au ministère de la Justice : À quelle fréquence l'incorporation par renvoi est-elle utilisée dans vos règlements? Et dans quelle mesure vos règlements sont-ils accessibles au grand public et plus particulièrement aux entreprises? Évidemment, comme beaucoup de choses au gouvernement, nous n'avons pas la réponse à une question comme celle-là. Personne ne fait le suivi de ces renseignements et personne n'a pensé à le faire. En nous basant sur le stock de réglementation au Canada qui se compose de plus de 3 000 règlements, nous avons estimé qu'il faudrait à un parajuriste — pauvre parajuriste, je ne voudrais pas être à sa place – 1 300 heures par année pour recueillir ces renseignements. Pour examiner chaque règlement, relever une incorporation par renvoi, consulter le document pertinent et recueillir des renseignements comme la langue disponible, le coût ou la date de sa dernière mise à jour. Ce n'est pas un travail très amusant, et je ne souhaiterais même pas à mon pire ennemi de faire ce travail. Mais, cela dit, l'intelligence artificielle et l'automatisation représentent une occasion de réaliser beaucoup plus rapidement cette tâche très banale et pénible. Cela ne remplace pas le jugement humain nécessaire pour évaluer la collecte de données, mais cela permet d'effectuer un travail très ingrat et pénible beaucoup plus rapidement et facilement. Le problème que nous essayons de résoudre dans le cadre de ce projet particulier, c'est de donner une réponse au Parlement à des questions comme : « Combien de ces documents auxquels nous faisons référence dans nos règlements ne sont disponibles qu'en anglais et non en français? Combien sont derrière des verrous d'accès payant de quelques milliers de dollars? Et qu'est-ce que cela signifie pour nos règlements? Qu'est-ce que cela signifie pour l'agriculteur rural du Québec qui essaie d'être conforme, qui fait tout en son pouvoir pour l'être, alors que la norme à laquelle nous faisons référence n'est disponible qu'en anglais? Il ne peut donc pas être entièrement conforme; quelles en sont les répercussions? » C'est une question très ouverte à laquelle personne n'a de réponse à l'heure actuelle. Et nous préférerions ne pas le découvrir. Nous préférerions nous pencher sur cette question avant qu'elle ne devienne une question juridique à part entière. Le deuxième projet sur lequel nous travaillons est le projet de plateforme d'évaluation réglementaire. Dans le cadre de son processus d'examen réglementaire, le Secrétariat du Conseil du Trésor a demandé aux organismes de réglementation de mener des examens périodiques de leurs stocks de règlements, ce qui se définit comme le fait de vérifier quels règlements peuvent être modernisés, de comparer les règlements canadiens et ceux d'autres administrations et de pouvoir faire ce que l'on appelle une analyse des conflits ou chevauchements. Je veux dire par là : s'agit-il d'un règlement au niveau fédéral? Y'a-t-il une exigence qui entre en conflit avec un élément de juridiction provinciale ou territoriale? Une grande partie de cette tâche est censée être accomplie avec les ressources existantes. Les organismes de réglementation sont déjà à court de ressources et n'ont pas le temps de le faire. Et encore une fois, une autre occasion s'est présentée. Pourrions-nous utiliser l'intelligence artificielle pour rendre cette tâche plus supportable et pour obtenir des analyses et des résultats tangibles qui nous donneront une meilleure idée des possibilités de moderniser et d'harmoniser nos règlements et d'effectuer des analyses réglementaires globales plus efficacement?

VALERIA
Alors, où en êtes-vous à ce sujet?

SCOTT
Dans le cadre de ce projet particulier — le projet de plateforme d'évaluation réglementaire — nous avons dû d'abord passer en revue la liste des fournisseurs d'IA qui a été publiée par Services publics et Approvisionnement Canada (SPAC) et le Secrétariat du Conseil du Trésor(SCT). Nous avons attribué deux contrats à deux entreprises différentes, qui sont en train de nous construire deux prototypes distincts. Nous évaluerons ces prototypes et nous attribuerons un contrat à l'entreprise dont le prototype nous plaît le plus, sur la base de critères tout à fait objectifs, pour le mettre en production pour nous. Le processus d'approvisionnement que nous avons entrepris pour ce projet est très intéressant. Tout d'abord, l'utilisation de la liste de fournisseurs est une nouvelle expérience en soi. Nous avons suivi un processus d'approvisionnement très souple sollicitant beaucoup l'avis des fournisseurs, et amenant à faire beaucoup d'ajustements à l'énoncé des travaux et à la grille d'évaluation en réponse à ces commentaires. Nous avons plusieurs fournisseurs en concurrence les uns avec les autres pour nous construire des prototypes, de sorte à ne pas être liés à un seul fournisseur.

VALERIA
Cela semble un défi.

SCOTT
Tout à fait. C'est comme un défi. Et selon la façon dont les contrats ont été structurés, il y a aussi beaucoup de périodes d'option. Donc, si aucun prototype ne nous plaît, nous n'avons pas à attribuer un contrat pour passer à la production. Après la mise en production, il y a des périodes d'option pour faire du développement supplémentaire, au besoin. Donc, si nous nous rendons compte que ce que nous avons mis en production n'est pas tout à fait à la hauteur, eh bien, nous avons des périodes d'option basées sur le contrat pour faire plus d'améliorations et plus de travail à ce sujet. Donc, dans un sens, nous l'avons mis à l'épreuve du futur de cette façon.

NATALIE
Les services retenus à la suite d'un processus d'approvisionnement complexe et intense pourraient faire en sorte que le travail soit exécuté plus rapidement que s'il ne l'était pas par ce pauvre parajuriste?

SCOTT
Oui, ce serait quand même plus rapide de passer par un processus complexe de demande de propositions que par le parajuriste. Mais ce que nous avons appris de ce processus d'approvisionnement, c'est qu'il y a encore beaucoup de choses à améliorer. Nous avons été confrontés à plusieurs problèmes de procédure concernant la façon dont les gens soumissionnent et le déroulement lorsque les fournisseurs abandonnent le processus. Nous avons beaucoup appris sur la façon de rédiger un énoncé des travaux idéal, surtout dans un domaine comme l'IA, qui est très nouveau pour le gouvernement. Vous n'avez pas de données de référence sur la durée de réalisation et le coût de ces produits. Et bon nombre des critères que vous utilisez pour évaluer les soumissionnaires sont très subjectifs et difficiles à évaluer à un niveau objectif. Pour vous donner un exemple pratique, disons que je veux une équipe ayant une expérience de la réalisation d'un projet d'IA. Pour répondre à ce critère, il suffirait littéralement d'écrire sur un bout de papier que tel membre de l'équipe a réalisé un projet d'IA et je n'aurais aucun moyen de le vérifier. Parce que nos processus d'approvisionnement ne sont pas conçus de cette façon — ils sont conçus de manière à être équitables et transparents et à donner à tout le monde une chance égale de soumissionner pour chaque appel d'offres du gouvernement.

NATALIE
C'est comme notre processus de travail.

SCOTT
Exactement, mais du point de vue de la personne qui veut juste que le travail soit accompli, et je ne me soucie pas vraiment de savoir qui le fait, tant que j'obtiens ce dont j'ai besoin et que c'est vraiment bien fait — surtout dans un domaine qui est vraiment nouveau et émergent comme l'IA — je ne peux vous dire objectivement ce qui est bien, ce qui est meilleur, ce qui est mieux, ce qui est le mieux, ce qui est mauvais, et quelle est la moyenne. Je ne le sais pas nécessairement, parce que je vous demande de faire quelque chose qui n'a jamais été fait auparavant. Je n'ai pas 20 ans d'histoire sur lesquels m'appuyer comme je le ferais pour une application. Donc, si vous me dites que votre approche technique est la meilleure façon de procéder, je n'ai pas vraiment la possibilité de le contester, parce que je ne peux pas établir de critères objectifs quant à ce qu'est une bonne architecture technique pour un projet d'IA au gouvernement, en n'ayant pas beaucoup de référence à cet égard.

VALERIA
Comment s'est passé l'approvisionnement tout au long de ce processus?

SCOTT
Je salue tous les membres de SPAC qui nous écoutent. SPAC a été incroyable. Ils ont fourni un service inégalé. Ils se sont montrés très ouverts à l'idée d'essayer des choses folles dans le cadre de cette demande de propositions.

TODD
Des choses folles? Donnez-nous plus de détails à ce sujet.

SCOTT
Bien, des choses folles. Je vais prendre l'exemple de la propriété intellectuelle. Vous connaissez peut-être la Directive sur la prise de décisions automatisée ainsi que l'évaluation d'impact des algorithmes. Il s'agit de nouvelles exigences du Conseil du Trésor concernant les systèmes automatisés de prise de décisions. Elles entreront en vigueur en avril 2020, mais comme pratique exemplaire, nous avons décidé de faire comme si elles étaient déjà en vigueur. Lorsque, au départ, vous imaginez un projet d'IA, vous êtes censé évaluer le niveau de risque relatif de votre système d'IA, en tenant compte d'éléments comme l'approche éthique de l'IA, le biais dans votre algorithme et vos données de formation, etc. Des choses que la plupart des gens connaissent, je pense. Mais, cela étant dit, nous sommes classés au niveau 1. Il n'y a pas beaucoup d'exigences au niveau 1. Neil Bouwer, notre vice-président ici à l'École a dit : « Faisons comme si nous étions au niveau 2 et soumettons-nous à plus d'exigences que nécessaire ». Après avoir échangé un regard avec mon directeur : « D'accord, je suppose que nous avons simplement plus de travail à faire maintenant. » Nous avons dit : « D'accord, faisons ça comme exercice de réflexion, et si ça ne marche pas, où est le problème? Nous sommes l'École. Personne ne va mourir. C'est un système d'IA qui ne prend pas de décisions. C'est assez peu risqué. C'est sûr. Cela ne coûte rien d'essayer. » Au final, nous avons dit : « Bien, nous devons intégrer certains éléments dans le contrat pour tenir compte de cela ». L'un d'entre eux concernait la propriété intellectuelle. Plus précisément, vous devez être capable de faire ce qu'on appelle un examen par les pairs. Cela inclurait l'examen du code source, des composants logiciels, des composants matériels, en gros chaque élément de la façon dont votre IA a été construite et dont elle fonctionne. Mais généralement, les dispositions d'un contrat relatives à la propriété intellectuelle stipulent que la propriété intellectuelle demeure la propriété de la personne avec laquelle vous passez un contrat. Cela crée un problème intéressant. Il se peut que je doive examiner cela pour faire un examen par les pairs, sans parler du fait que je pourrais me retrouver un jour au tribunal, à cause de l'application réglementaire, et quelqu'un pourrait dire : « Vous avez utilisé la plateforme d'évaluation réglementaire pour prendre cette décision, en plus des bases de données, des applications et des fichiers de programme? Je veux voir ce système. Je veux voir comment ce système a influencé votre prise de décisions ». Cela pourrait un jour se produire au tribunal. J'ai donc besoin d'un moyen d'accéder à tout moment à la propriété intellectuelle d'un entrepreneur sans avoir à livrer une grande bataille pour y parvenir. J'ai donc proposé une clause qui donnait à la Couronne un accès perpétuel et à vie à l'ensemble du code source et des composants. Pour toujours. Voilà ce qu'en gros contenait la clause.

VALERIA
Direct. J'aime ça.

SCOTT
Une licence perpétuelle à vie pour accéder à tous les composants de la solution chaque fois que nous en faisons la demande. Et elle donnait quelques exemples, comme une affaire judiciaire, un tribunal, juste parce que nous en avions envie. Ce n'est pas exactement ce qu'elle disait, mais c'est en gros ce à quoi cela équivalait. Nous nous attendions à de la résistance. Nous ne nous attendions pas à de la résistance de la part de SPAC, mais ils étaient très ouverts à cette idée. Ils n'ont pas dit : « Nous ne faisons pas cela pour les demandes de propositions. Nous ne pourrions jamais faire ça ». Ils ont dit : « D'accord, nous comprenons ce que vous essayez de faire, nous comprenons pourquoi vous essayez de le faire, trouvons un moyen de le faire fonctionner ». Et lorsque SPAC joue le rôle de catalyseur, les choses se déroulent vraiment bien et c'est là qu'ils offrent le plus de valeur. Ils en ont parlé à leurs avocats et à leurs gestionnaires et les experts en approvisionnement ont un peu modifié la formulation. Puis, nous avons présenté la clause à tous les fournisseurs et je m'attendais à ce qu'ils retournent quelques tables et disent : « Vous êtes fous. Je ne soumettrais jamais une proposition pour ce projet. Vous donnez essentiellement un laissez-passer à mes concurrents pour voir toute ma propriété intellectuelle. Et ce qui a fini par arriver, c'est que les fournisseurs ont compris. Ils ont compris que l'IA fait l'objet d'un examen incroyablement minutieux en ce moment. Il y a encore beaucoup de méfiance à son égard et, si le gouvernement veut renforcer la légitimité et la crédibilité des systèmes d'IA mis en place, nous devons être en mesure de vérifier ces systèmes. Nous devons faire preuve de transparence quant à la façon dont les systèmes prennent les décisions. Quant à la façon dont ils sont construits. Surtout lorsqu'on applique l'IA éthique et les optiques de réduction du biais, sans parler des nombreuses autres optiques qui pourraient être appliquées. Parce que vous ne voulez pas un système qui favorise injustement un certain groupe de personnes en raison des données de formation utilisées — je ne sais pas, disons que [cela] favorisait les hommes blancs. Votre système donne donc la priorité aux candidatures d'hommes blancs. Ce n'est pas le genre de système que nous devrions construire. Je pense que les entreprises l'ont compris et c'est pourquoi elles étaient très ouvertes à cette disposition.

VALERIA
Excellent. Et j'adore votre phrase à propos du rôle de catalyseur de SPAC. C'est excellent et j'ai le sentiment que ce message doit être communiqué : à quel point nous aimons SPAC dans le rôle de catalyseur!

SCOTT
Oui. Dans le cadre de ce processus, il y a eu d'autres exigences qui sont venues de la liste de fournisseurs que SPAC et le SCT ont créée. Ces ministères m'ont contacté pour me demander conseil. J'ai déjà parlé pendant le balado de certains des conseils que je leur donne. Mais il y a d'autres conseils — surtout ce que je constate dans le cadre de ce processus d'approvisionnement, et ce que nous avons constaté pendant l'examen des soumissions, c'est un manque très net d'expertise en ce qui a trait aux technologies nouvelles et émergentes. Je suis sûr que ce ne sera pas un thème nouveau. Mais ce que nous avons constaté, c'est que nous recevions ces soumissions flamboyantes de fournisseurs. Et certaines entreprises ont des équipes entières qui se consacrent uniquement à la rédaction de soumissions aux marchés publics, ce qui leur permet de faire un très bon travail. Mais ensuite, vous voyiez un diagramme d'architecture technique, vous voyiez : « nous allons utiliser Elastic Search, et nous allons le construire en utilisant cette méthode de science des données et bla bla bla ». Nous avons formé un groupe d'experts en la matière — des organismes de réglementation, dans ce cas-ci. Il semble qu'ils savent de quoi ils parlent. Je suppose que c'est bon, non? Je n'avais pas vraiment le moyen de dire si c'est bon ou pas. Nous avons eu un expert en IA de l'Académie du numérique qui a participé au comité d'évaluation. Mais bien sûr, les règles d'approvisionnement stipulent que les membres du comité d'évaluation ne sont pas autorisés à se parler jusqu'à la réunion de consensus. Ils avaient donc des questions à poser, mais n'avaient personne à qui s'adresser. Même s'il y avait un expert en IA quelque part qui leur était facilement accessible, vous n'êtes pas censé discuter du contenu d'une soumission avec qui que ce soit jusqu'à ce que vous vous adressiez à votre comité de consensus. De plus, le contenu de la soumission d'évaluation ne doit pas être communiqué à l'extérieur du comité. Nous avons donc créé ce système d'approvisionnement intéressant qui, à mon avis, n'est pas prêt pour l'ère numérique, surtout si nous essayons d'encourager le gouvernement à adopter toutes ces technologies de pointe. Mais nous n'équipons pas les fonctionnaires et nous ne créons pas des processus qui peuvent appuyer l'adoption de technologies nouvelles et émergentes. C'est l'exemple que j'ai donné, où on ne peut pas avoir accès à l'expertise en IA en raison de règles d'approvisionnement désuètes qui ne nous permettent pas de discuter des soumissions, qui ne nous permettent pas de consulter des personnes à l'extérieur du comité, qui ne nous permettent pas de parler entre nous jusqu'à une réunion de consensus... C'est bien beau quand c'est le 46e projet de recherche que vous envoyez en demande de propositions parce que vous en faites un tous les deux ou trois ans. Vous pourriez donc le faire de mémoire. Mais lorsqu'il s'agit de quelque chose que vous n'avez jamais fait auparavant, l'incapacité d'aller chercher de l'expertise quand vous en avez besoin rend le processus incroyablement difficile.

VALERIA
Je dois dire que cela s'est produit aussi récemment dans l'un des projets sur lesquels je travaillais. Nous étions à la recherche d'un scientifique du comportement, et c'est aussi un peu nouveau pour le gouvernement. Il se trouve que j'ai une formation en psychologie et que j'ai travaillé dans le domaine des conflits. J'ai donc pu lire les lignes de ces propositions. Mais ce qui m'a étonnée tout au long de ce processus — ce que j'ai appris — c'est qu'il n'y avait personne du domaine de l'approvisionnement, ou qu'ils n'avaient pas nécessairement un expert dans ce domaine qui était capable d'évaluer ces choses à ce niveau. Et si je n'avais pas été là? Et s'il n'y avait eu que des gens qui n'avaient pas nécessairement ce petit peu de connaissances supplémentaires? Alors oui, ça a l'air très bien, mais ça ne l'est pas. Vous devez être capable de lire entre les lignes pour vraiment voir et évaluer correctement. Alors oui, je ne peux qu'être d'accord avec vous.

SCOTT
Absolument, absolument. Et cela trouve vraiment un écho chez moi, compte tenu de notre expérience en matière d'approvisionnement dans le cadre du projet de plateforme d'évaluation réglementaire. Et nous avons remarqué la même chose lors de l'élaboration de l'énoncé des travaux. Les agents de l'approvisionnement comprennent le processus, la politique et les règlements. Mais quand il s'agit de la question suivante : comment formuler mes critères pour que je puisse évaluer objectivement une nouvelle exigence à l'aide d'une technologie que presque personne ne connaît? Ils ne peuvent pas vraiment vous aider, parce qu'ils fonctionnent souvent à un niveau de connaissance similaire au vôtre. Si vous avez une question sur l'approvisionnement, comme le fonctionnement du processus ou la façon dont les critères que vous avez rédigés seront conformes aux règles d'approvisionnement, ils vous seront d'une grande utilité. Mais si vous leur dites : « J'ai besoin que le système fasse ceci ou cela. Comment puis-je formuler cela de manière objective? Comment puis-je définir bon, mieux, meilleur? Ils ne vous seront pas d'une grande aide. Ce que je crains, c'est que nous aurons beaucoup d'explorateurs et de testeurs qui iront certainement de l'avant sur la courbe d'adoption, mais ils ne pourront pas obtenir de bons résultats sans avoir les capacités et l'infrastructure nécessaires.

VALERIA
Ce que j'ai également trouvé difficile, c'est d'expliquer les raisons pour lesquelles cela ne correspond pas. C'était un processus intéressant, parce qu'ils voulaient plus de précisions que je ne pouvais pas donner, parce que je ne sais pas comment vous le dire autrement. Je vous dis pourquoi. Vous ne comprenez pas bien la différence. À part vous montrer sur le Web les définitions des raisons de ceci et cela — ce que j'ai essayé de faire, ce qui rend très claire l'explication que j'essaie de vous donner —, je ne sais pas comment communiquer autrement la raison pour laquelle je dis : « Non, cela ne correspond pas ». J'ai donc senti qu'il y avait là aussi un obstacle à la communication. Et j'ai pensé que s'ils avaient été en mesure d'apporter cette expertise de leur côté, une certaine familiarité avec le sujet, cela aurait été très utile dans ce processus.

SCOTT
Oui, absolument. Tout à fait d'accord. Ce que nous avons également commencé à apprendre au fur et à mesure de l'exécution du projet — et c'est une caractéristique très courante de tout projet — c'est essayer d'éviter le glissement de portée. Essayer de ne pas tenter l'impossible et de rester très concentré. Nous avons dû, à maintes reprises, revenir sur le problème que nous essayions de résoudre à l'origine. Parce que l'IA, c'est de la poudre aux yeux pour beaucoup de gens. Quand on demande aux gens de visualiser à quoi ressemble un système d'IA et d'expliquer leur interaction avec celui-ci, ils ont beaucoup de mal à le faire. C'est très nébuleux. Ils ne peuvent pas vraiment vous donner une bonne image. Ce n'est pas comme si vous alliez nécessairement sur une application et commenciez à interagir avec une IA. L'interaction avec l'IA peut être invisible et sous le capot. Vous ne vous rendez peut-être même pas compte que c'est en cours. Donc, les gens ont du mal à le visualiser. Une fois qu'ils commencent à voir les résultats, ils commencent à imaginer : « Si le système peut afficher mes données en cliquant sur un bouton, que peut-il faire d'autre? Est-ce qu'il peut aussi me donner plus de points de données? Peut-il l'afficher de 10 façons différentes? » Et avant que vous vous en rendiez compte, le glissement de portée commence à apparaître. Et ce que nous percevons en tant qu'experts non techniques comme une tâche très simple, comme : « Ne pourriez-vous pas simplement ingérer un tout nouvel ensemble de données dans votre algorithme existant? Il suffit d'appuyer sur un bouton pour l'ingérer, non? ». Cela constitue, en fait, une tâche très compliquée. Il y a certaines suppositions intégrées que cela va se passer ainsi : l'ensemble de données est prêt, il est lisible par machine, j'appuie sur un bouton, il entre dans l'algorithme, et tout s'arrange tout seul. En réalité, c'est que ce n'est pas comme ça que ça se passe. Pour revenir à ce que je crois être une pratique de gestion de projet essentielle consistant à déterminer quel était le problème que nous essayons de résoudre et où nous en sommes dans notre projet, qu'il s'agisse d'un prototype ou d'une solution prête pour la production; est-ce que cela résout réellement notre problème? Parce que tout le reste n'est que distractions et bruit. Si nous ne pouvons pas dire que cela résout notre problème fondamental, pourquoi nous sommes-nous donc donné la peine de le faire? Il est très facile d'être distrait par les nouvelles fonctionnalités brillantes que tout le monde veut quand ils commencent à réaliser que cela pourrait être la chose qui résout tous leurs problèmes. Mais pour en revenir à cette question fondamentale, est-ce que cela résout tout? Est-ce que ça résout notre problème? Est-ce que cela règle les problèmes que nous rencontrions et qui nous ont poussés à nous lancer dans cette aventure? Si c'est le cas, génial! Le projet est une réussite. Si ce n'est pas le cas, pourquoi? Et que pouvons-nous faire pour nous retrancher dans l'espace du problème d'origine?

VALERIA
Permettez-moi de vous demander, pour vous, à quoi ressemble la fin d'un projet où vous pouvez faire une grande révérence, poser le micro et passer à autre chose, vous dire que c'est un grand succès, que je suis vraiment fier de moi. À quoi cela ressemble-t-il?

NATALIE
Il n'engagera jamais un parajuriste pour faire ces 1 300 heures de travail.

SCOTT
À quoi reconnaît-on le succès? À quoi ressemble mon moment de pose du micro? Je dirais que nous l'avons toujours conçu comme une expérience. Il ne s'agit donc pas seulement de trouver une solution. Parce que la question qu'on me pose toujours est : « Pourquoi cela se passe-t-il à l'École? » C'est une très bonne question. Alors oui, nous produisons quelque chose de valeur qui augmentera la productivité et l'efficience et nous nous féliciterons, et tout le monde s'en réjouit. Mais au bout du compte, en tant qu'École, nous nous soucions de renforcer les capacités. Nous nous soucions des bénéfices pour l'apprentissage que nous pouvons tirer de quelque chose comme ça. C'est pour ça que nous l'avons conçu comme une expérience. Tous ceux qui nous ont accompagnés dans cette aventure ont commencé à penser que l'IA est semblable à Skynet, qu'elle va conquérir le monde. Les robots vont conquérir le monde. Pour ma part, je souhaite la bienvenue à nos seigneurs robots — s'ils nous écoutent. Et c'est de là dont tout le monde est parti. Mais après avoir fait ce voyage avec nous, ils sont maintenant en mesure de mieux comprendre ce dont l'IA est capable, et tout aussi important, ce dont elle n'est pas capable. Ils en comprennent les limites. Ils comprennent mieux la science des données. Et en tant qu'organismes de réglementation, ils sont mieux équipés pour être des organismes de réglementation du XXIe siècle. Un organisme de réglementation qui apprend que son industrie est en train d'adopter l'IA comprend maintenant ce que cela signifie, quelles en sont les répercussions possibles et comment, en tant qu'organisme de réglementation, il devrait réagir à cela. Alors, devrait-il réglementer? Devrait‑il surveiller? Devrait-il faire plus de recherche? Devrait-il demander à participer à ce projet? Il est maintenant en mesure de prendre cette décision, parce qu'il comprend la technologie que les industries qu'il réglemente sont en train d'adopter. Il devient ainsi un meilleur organisme de réglementation. Alors, qu'est‑ce que cela signifie pour ce qui est de la réussite du projet? Je dirais que ce serait formidable si nous obtenions quelque chose qui puisse commencer à être adopté dans la pratique par les organismes de réglementation. En même temps, cependant, je veux créer quelque chose qui crée une expérience où les organismes de réglementation ressortent de ce projet en se disant : « Je comprends mieux l'IA. Je comprends comment je peux devenir un meilleur organisme de réglementation grâce à la façon dont le monde est en train de changer. » Et j'ai aussi été inspiré à réfléchir à la façon dont je pourrais changer ma façon de travailler et d'adopter l'IA. Idéalement, pour tirer parti des résultats de l'expérience menée par l'École, je me pencherai peut-être sur le projet d'incorporation par renvoi. Je me penche peut-être sur le projet de plateforme d'évaluation réglementaire, et je me dis que, pour répondre à mes besoins, c'est 80 % du chemin, mais je veux l'adopter dans ma propre pratique pour prendre les 20 % qui restent. Essayer d'être tout pour tout le monde — et nous avons 16 ministères et organismes fédéraux qui sont partenaires dans ce projet, je ne les nommerai pas tous, parce que cela prendrait quelques minutes en soi — mais cela étant dit, nous n'allons pas offrir un produit qui répondra aux besoins de tous, car cela est impossible. Nous ne serons pas en mesure de créer une plateforme unique pour les gouverner tous. Mais ce que nous pouvons créer, c'est quelque chose qui améliore le statu quo et qui peut servir de base si les ministères veulent le développer. Ils ont le code source. Ils ont les connaissances, la compréhension et les capacités. Ils ont des contacts avec des experts en IA et nous les encourageons simplement à poursuivre le chemin.

NATALIE
Je pense que le fait d'avoir 16 partenaires d'investissement témoigne de la qualité du travail que vous faites, parce qu'on ne voit pas ça sur des projets merdiques.

SCOTT
Oui, et il y a une histoire intéressante sur la façon dont tout ça s'est mis sur pied. Au cours de l'été, pendant une période d'un mois et demi, nous avons communiqué successivement avec 18 ministères et organismes pour signer des protocoles d'entente et nous avons recueilli environ 1,1 million de dollars de fonds en un mois et demi.

NATALIE
Incroyable! Vous avez envie d'appeler les deux qui n'ont pas investi? Je plaisante. Je plaisante. [rires]

TODD
Vous avez raté quelque chose! [rires]

SCOTT
Je ne nommerai pas les coupables! Je veux juste reparler des règles en tant que code, parce que je ne pense pas que j'ai donné assez de temps ou fait justice à ce sujet. Les règles en tant que code est un concept très intéressant. En parlant de justice, le ministère de la Justice est un partenaire clé de ce projet, tout comme Transports Canada. Le projet réunit donc le ministère de la Justice, Transports Canada et la Communauté des organismes fédéraux de réglementation pour essayer de convertir les règles de registre des grands navires commerciaux en code lisible par machine. Le propriétaire d'un navire, qu'il s'agisse d'une entreprise ou d'un particulier, comprendrait comment faire immatriculer son navire, selon sa taille, son objet et les documents requis, les dispositions et les règles à cet égard. Et ce qui est intéressant dans cet espace, c'est que nous sommes actuellement dans une situation où nous allons essayer de convertir les règles existantes. Il y a une conversation émergente très intéressante, surtout au Canada où nous avons déjà un système où nous rédigeons nos règlements en deux langues, l'anglais et le français, à propos de l'introduction éventuelle — je ne veux pas effrayer les auditeurs du ministère de la Justice — d'une troisième langue. Rédaction en code, puis conversion en anglais et en français. Si nous voulons un gouvernement qui donne la priorité au numérique, un gouvernement qui reconnaît l'importance du numérique dans le monde d'aujourd'hui, alors nous devons sérieusement nous demander si, lorsque nous rédigeons nos règlements, nous ne devrions pas d'abord les rédiger en code? Devrions-nous considérer principalement un cas d'utilisation numérique comme le principal moteur de l'élaboration de notre réglementation? Cela soulève un grand nombre de questions constitutionnelles intéressantes qui, je pense, sortent du cadre de ce balado. Mais nous avons déjà des conventions de rédaction en place. Donc, si nous introduisions une troisième langue — le code — qu'est-ce que cela signifierait pour nos conventions de rédaction? Qu'est-ce que cela signifierait pour les juristes, les experts en politiques, les rédacteurs, qui se réunissent tous dans une salle pour essayer de comprendre comment ils vont rédiger les règles pour qu'elles soient prêtes à être mises en code dès qu'elles entreront en vigueur?

VALERIA
Intéressant. Quel est l'instinct à cet égard? Je veux dire, la réaction que vous recevez.

SCOTT
La réaction que je reçois est variable selon les personnes. Certaines personnes sont très enthousiastes à ce sujet. Les gens qui sont portés sur le numérique et l'innovation ont tendance à être très enthousiastes à ce sujet. Les gens de la profession juridique ont tendance à réagir ainsi : « C'est intéressant, mais cela me terrifie aussi ». Cela dépend vraiment de qui on parle. Mais il y a tant d'avenirs intéressants que vous pourriez créer en faisant cela. Et celui auquel j'aime toujours revenir — je vais vous donner deux exemples. Premier exemple : imaginez que vous convertissez vos règles en un format lisible par machine, et que vous commencez à faire des scénarios de données avancés. Parce que les données de Statistique Canada sont déjà en grande partie lisibles par machine et que nous avons toutes nos règles, qui sont maintenant lisibles par machine et converties en données elles-mêmes. Si j'ajuste une variable dans mes règlements, quelle sera l'incidence sur le PIB, sur la productivité, sur la croissance démographique, sur les taux d'immigration ou sur tout autre point de données qui me préoccupe? Si je dis : « D'accord, le seuil d'inspection est actuellement fixé à, disons, 10 % d'une variable quelconque, et je vais modifier le règlement pour le fixer à 15 % de cette même variable ». Ensuite, j'exécute un scénario avancé en utilisant des données réelles et j'exécute une simulation. Et je dis : « Bien, quelle est l'incidence? Regardez-moi ça! Le nombre d'avions tombant du ciel augmente de 5 %. Je ferais mieux de ne pas modifier cela, parce que je ne pense pas qu'une réduction du fardeau administratif des entreprises, quelle que soit son ampleur, vaille la peine de sacrifier des vies. »

VALERIA
Nous le comprenons, Scott.

SCOTT
Voilà donc le genre de scénarios avancés que nous pourrions faire. Wolfgang Alschner, de l'Université d'Ottawa, a fait des recherches très semblables, mais avec les accords commerciaux. Et là où il l'a fait, en utilisant le texte des accords commerciaux existants et en le convertissant en code lisible par machine, il peut réellement prédire si un accord commercial sera un succès ou non, en se fondant uniquement sur le texte de l'accord commercial et sur les autres sources de données secondaires qui ont été saisies dans l'algorithme. Donc, si nous pouvons convertir nos règles en code lisible par machine, nous ouvrons beaucoup de possibilités pour l'analyse avancée des données, la planification de scénarios avancés — il n'y a pas de limite. Il s'agit simplement de savoir si nous prenons le temps de le faire ou non. Ça ne marchera pas avec tous les ensembles de règles. J'entends déjà des gens me dire : « Cela fonctionnera très bien pour des règles prescriptives, qui précisent clairement ce que vous devez faire. Mais pas avec des règles plus axées sur les résultats, du genre : tant que vous ne tuez personne, je ne me soucie pas vraiment de la façon dont vous atteignez ce résultat ». C'est vrai, et je suis le premier à admettre que cela ne fonctionnera pas pour toutes les règles que nous avons au Canada, mais il y en a un grand nombre avec lesquelles cela fonctionnera, surtout celles qui sont plus prescriptives. Je ne m'attends pas à ce que les gens soient prêts à adopter cela à grande échelle dès le premier jour. Mais je pense que nous avons le devoir de l'expérimenter et de voir si nous pouvons réaliser les avantages promis. Des gens en Australie, en Nouvelle-Zélande, à Singapour, au Royaume-Uni et en France ont déjà commencé à le faire. Alors, faisons des expériences. Voyons ce qui va se produire. Voyons quels sont les avantages que nous pouvons en tirer. Puis, décidons si ça en vaut la peine ou non. Mais je pense que c'est une proposition très modeste, qui, selon moi, n'est pas trop controversée. Je ne dirai pas qu'il faut investir dès le départ 10 millions de dollars pour convertir 200 règles. Je comprends que, compte tenu du stade précoce du concept, il faut d'abord qu'il fasse ses preuves. Et c'est très intéressant. Je vais juste citer certains des autres travaux que nous faisons. Nous sommes en train de de planifier pour l'avenir en ce moment. Et nous cherchons des idées futures, comme l'utilisation de l'intelligence artificielle pour trouver les entreprises relevant de la compétence fédérale qui manquent – ce qui semble un peu étrange et j'ai vu quelques sourcils se lever. Je vais l'expliquer très rapidement. Essentiellement — je ne nommerai pas les coupables — mais certains ministères ne connaissent pas toutes les entreprises qui relèvent de leur compétence. Parfois, c'est par pure ignorance. Les entreprises ne savent tout simplement pas qu'elles relèvent de la compétence fédérale. D'autres fois, c'est juste une mauvaise tenue de registres. Peu importe la raison. Alors, comment pouvons-nous trouver ces entreprises? Nous pourrions faire un effort manuel massif basé sur des recherches Google, des fichiers de programmes, des mots-clés, et en fin de compte assembler le tout. Mais un ministère en particulier, qui je ne nommerai pas, a estimé qu'il lui manque environ 1 500 entreprises. Ils ont donc fait un effort manuel pour essayer de trouver certaines d'entre elles, et au bout de six mois, ils ont trouvé 300 entreprises. Et chaque jour des entreprises sont créées, des entreprises ferment leurs portes. Donc, honnêtement, je ne pense pas que vous vous en sortirez un jour En plus, d'un point de vue réaliste, qui a du personnel à consacrer à cette tâche 37,5 heures par semaine pendant — je ne peux pas faire le calcul du personnel requis — des années. C'est donc une possibilité de faire appel à l'intelligence artificielle pour nous aider. Si nous connaissons les variables qui peuvent indiquer qu'une entreprise relève de la compétence fédérale et que nous avons une base de données des entreprises enregistrées, il suffit de comparer les entreprises que nous trouvons en fonction des critères définis à celles qui sont sur la liste. Ce n'est donc pas exactement la chose la plus compliquée à assembler, mais cela prend beaucoup de temps. Nous cherchons aussi à savoir si nous pouvons établir des liens. Statistique Canada dispose d'un environnement connu sous le nom d'environnement de fichiers liés, où ils conservent les données du Registre des entreprises et les données fiscales de l'ARC, et nous cherchons à savoir si nous pouvons établir un lien avec des données réglementaires comme les licences, les permis et les certificats, afin de créer un profil plus complet de la situation réglementaire d'une entreprise. Combinez cela à quelque chose comme les règles en tant que code, et vous disposez maintenant d'un moteur très puissant que les entreprises peuvent utiliser pour voir si elles sont conformes à toutes les exigences de nos règles. Et lorsque nous faisons le lien avec les données de licence, de permis et de certificat, vos règles sont dans un format lisible par machine, les profils de votre entreprise sont dans un format lisible par machine. D'un simple clic, je peux vous dire à quelles exigences vous êtes assujetti et les licences, les permis et les certificats que vous êtes censé avoir, ceux que vous avez réellement et ceux qui vous manquent. Pourvu que je n'utilise pas ces renseignements aux fins d'application de la loi, tant que je m'en sers plutôt comme d'un service d'« infodivertissement » pour que les gens sachent ce qu'ils doivent faire pour être conformes, tout va bien du point de vue de la protection de la vie privée.

VALERIA
J'ai l'impression que votre slogan devrait être l'IA pour le service dicté par le bon sens.

SCOTT
Oui, nous pourrions peut-être étudier la possibilité de faire un logo et d'avoir une marque et un slogan. Nous pourrions mettre des annonces sur... peut-être pas sur Facebook ces jours-ci, mais, je ne sais pas... Twitter. Mettre des annonces sur Twitter. C'est habituellement là que traînent tous les gens du gouvernement qui s'occupent d'innovation numérique. Donc...

VALERIA
Bien, merci. Merci beaucoup, Scott.

SCOTT
Merci de m'avoir invité.

VOIX HORS CHAMP
Vous avez écouté Innover sur demande, présenté par l'École de la fonction publique du Canada. Innovation sur demande est produit par Todd Lyons. Notre thème musical est signée par « Grapes ». Merci de votre attention.

 

Todd Lyons
Producteur
École de la fonction publique du Canada

Valeria Sosa
Gestionnaire de projet, Sensibilisation et engagement
Ressources naturelles Canada

Natalie Crandall
Chargée de projet, Renseignements d'affaires sur les ressources humaines
École de la fonction publique du Canada

Scott McNaughton
Chargé de projet, Réglementation de l'intelligence artificielle
École de la fonction publique du Canada


En vedette

COVID19

Renseignements à l'intention des employés du gouvernement du Canada : maladie à coronavirus (COVID‑19)

Mise à jour à l'intention des employés sur COVID‑19, télétravail, avis, messages et ressources à partager.

Outils d'apprentissage pour les équipes virtuelles

Outils d'apprentissage pour les équipes virtuelles

Nouveau! Pour soutenir les équipes virtuelles pendant la crise du COVID‑19, une nouvelle suite d'outils de travail est maintenant disponible.

Ce site web est continuellement mis à jour en fonction de vos commentaires.

Dites-nous ce que vous en pensez.
Veuillez entrer votre courriel si vous souhaitez une réponse :
Date de modification :