Rapport annuel 2020-2021

Présentation

Lancé en mai 2019, le Conseil consultatif en matière d'intelligence artificielle (Conseil consultatif) a été créé avec le mandat de conseiller le gouvernement fédéral sur la façon dont le Canada peut tirer parti de ses forces et de son leadership mondial en matière d'IA, créer une croissance économique inclusive et s'assurer que les développements en IA tiennent compte des valeurs des Canadiens.

Au cours des deux dernières années, les conseils formulés par le Conseil consultatif ont joué un rôle essentiel dans le renouvellement et l'expansion de la Stratégie pancanadienne en matière d'IA annoncée dans le budget 2021. Le Conseil consultatif a également déployé des efforts considérables pour faire avancer la conversation avec le public canadien sur les implications éthiques des technologies de l'IA, fournissant ainsi une feuille de route pour de futures consultations. En outre, il continue de jouer un rôle essentiel en faisant progresser la collaboration internationale sur les technologies de l'IA dans le cadre de forums, comme le Partenariat mondial sur l'IA.

L'IA continuera d'avoir une incidence sur l'économie canadienne et de la transformer, en particulier lorsque le Canada sortira de la pandémie de COVID-19. Dans un contexte de concurrence mondiale, le Conseil consultatif continuera de jouer un rôle important en déterminant les possibilités d'accroître la compétitivité du Canada, de faire progresser les intérêts du Canada en matière d'IA à l'échelle internationale et de fournir des recommandations d'experts sur les répercussions et les possibilités de l'IA dans les secteurs économiques clés.

Renouvellement et expansion de la Stratégie pancanadienne en matière d'IA

Dans le budget 2021, le gouvernement du Canada s'est engagé à renouveler et à élargir la Stratégie pancanadienne en matière d'IA (SPIA), qui a été lancée en 2017 avec un investissement de 125 millions de dollars par l'entremise de l'Institut canadien de recherches avancées (CIFAR). Plusieurs des investissements clés proposés dans le budget 2021 pour renouveler et élargir la SPIA sont étroitement liés aux conclusions détaillées et aux recommandations du groupe de travail sur la commercialisation convoqué par le Conseil consultatif. Le budget de 2021 propose d'affecter 443,8 millions de dollars sur 10 ans, à compter de 2021-2022, à l'appui de la Stratégie pancanadienne en matière d'intelligence artificielle. Cette affectation comprend ce qui suit :

• Un financement de 185 millions de dollars sur cinq ans, à compter de 2021-2022, afin de soutenir la commercialisation d'innovations et de recherches en matière d'intelligence artificielle au Canada;
• Un financement de 162,2 millions de dollars sur 10 ans, à compter de 2021-2022, afin à attirer et à maintenir en poste la crème du talent universitaire partout au Canada, notamment en Alberta, en Colombie-Britannique, en Ontario et au Québec. Ces programmes seront offerts par l'Institut canadien de recherches avancées;
• Un financement de 48 millions de dollars sur cinq ans, à compter de 2021-2022, à l'Institut canadien de recherches avancées afin de renouveler et d'améliorer ses programmes de recherche, de formation et de mobilisation des connaissances;
• Un financement de 40 millions de dollars sur cinq ans, à compter de 2022-2023, afin de fournir une capacité informatique exclusive aux instituts nationaux d'intelligence artificielle situés à Edmonton, à Toronto et à Montréal;
• Un financement de 8,6 millions de dollars sur cinq ans, à compter de 2021-2022, afin de faire progresser l'élaboration et l'adoption de normes en matière d'intelligence artificielle.

Ces investissements permettront au Canada de maintenir son leadership en IA en continuant d'attirer et de retenir des talents, de développer ses capacités commerciales nationales en IA, d'étendre ses capacités de calcul au profit des chercheurs en IA et de faire progresser le développement et l'adoption de normes d'IA. Les conseils et le leadership du Conseil consultatif et de son groupe de travail sur la commercialisation ont été essentiels à la réalisation de cette prochaine phase d'investissement dans l'IA au Canada.

Sensibilisation du public

Constatant l'importance de sensibiliser le public canadien au développement responsable et à l'utilisation éthique de l'IA, un groupe de travail sur la sensibilisation du public (GTSP) a été lancé par le Conseil consultatif en 2020. Le GTSP a pour mandat de sensibiliser le public aux implications éthiques du développement, de la gouvernance et de l'utilisation de l'IA, grâce à un plan de travail en trois volets :

• Lancer une enquête nationale pour saisir et évaluer la compréhension et l'intérêt des Canadiens pour l'IA et les éléments connexes.
• Diriger des délibérations en ligne en utilisant un modèle similaire à la méthodologie établie par la Déclaration de Montréal pour un développement responsable de l'IA.
• Produire un rapport final en collaboration qui intègre et résume les informations recueillies par l'enquête nationale et les délibérations en ligne.

Dans le cadre de son mandat, le GTSP a d'abord élaboré un projet de proposition de sondage en ligne. Les questions du sondage portaient sur trois thèmes : l'évaluation de la connaissance de l'IA parmi le public canadien, détermination des domaines d'« espoir » ou d'optimisme en matière d'IA et détermination des domaines de crainte ou d'inquiétude en matière d'IA. À la suite de l'élaboration de la version initiale, la firme Nanos a été retenue par Innovation, Sciences et Développement économique (ISDE) Canada pour contribuer à l'élaboration collaborative du sondage et en préparer la version finale. En novembre 2020, Nanos a mené un sondage en ligne en anglais et en français auprès de plus de 1 200 adultes canadiens issus d'un échantillon non probabiliste.

Les résultats du sondage national sont résumés ci-dessous :

Familiarité avec l'IA et ses capacités

• En ce qui concerne la connaissance de l'IA, environ trois quarts des Canadiens interrogés se déclarent familiers ou assez familiers avec l'IA. Les taux de familiarité personnelle les plus élevés ont été signalés chez les hommes, les jeunes (18-34 ans) et les résidents de l'Ontario.
• En moyenne, les Canadiens ont correctement distingué si une technologie utilise ou non l'IA 4,2 fois sur 6 (70 %).
• Les Canadiens jugent le plus souvent que les capacités de résolution de problèmes de l'IA sont bonnes ou très bonnes, tandis qu'ils jugent que sa capacité à prendre des décisions éthiques dans un contexte particulier est mauvaise ou très mauvaise.

Incidences futures de l'IA et points de vue sur son développement

• Les Canadiens sont presque sept fois plus susceptibles de dire que les incidences de l'IA sur le Canada dans son ensemble seront très positives plutôt que très négatives. Ils sont quatre fois plus susceptibles de dire que les incidences sur eux-mêmes seront très positives plutôt que très négatives.
• Les résidents de la Saskatchewan et du Manitoba sont moins positifs quant aux incidences de l'IA, y compris les répercussions prévues sur leur vie personnelle et au Canada.
• Près de 9 Canadiens sur 10 pensent que la participation humaine est importante pour les systèmes utilisant l'IA et que la capacité de prise de décision d'un ordinateur est limitée par la façon dont il est programmé.
• Plus de deux Canadiens sur trois pensent que l'IA a le potentiel de causer du tort à la société.

Perception des incidences de l'IA sur la vie au Canada

• Au cours des cinq prochaines années, les Canadiens affirment le plus souvent que l'IA aura des incidences positives sur les secteurs de la fabrication, des transports et des banques. Ils disent le moins souvent que l'IA aura des incidences positives sur les secteurs des arts et de la culture et des forces de l'ordre.
• Au cours de la même période évaluée, les Canadiens se disent le plus souvent préoccupés par les incidences de l'IA sur les secteurs de l'application de la loi et de la main-d'œuvre, tout en affirmant le plus souvent qu'ils ne sont pas préoccupés par les incidences de l'IA sur les secteurs des arts et de la culture, de l'agriculture et de la fabrication.
• Dans tous les secteurs évalués dans l'enquête, les Canadiens n'ont pas identifié un seul domaine dans lequel les incidences futures de l'IA seraient globalement négatives.

Perception des incidences de l'IA sur la vie au Canada

• Au cours des cinq prochaines années, les Canadiens affirment le plus souvent que l'IA aura des incidences positives sur les secteurs de la fabrication, des transports et des banques. Ils disent le moins souvent que l'IA aura des incidences positives sur les secteurs des arts et de la culture et des forces de l'ordre.
• Au cours de la même période évaluée, les Canadiens se disent le plus souvent préoccupés par les incidences de l'IA sur les secteurs de l'application de la loi et de la main-d'œuvre, tout en affirmant le plus souvent qu'ils ne sont pas préoccupés par les incidences de l'IA sur les secteurs des arts et de la culture, de l'agriculture et de la fabrication.
• Dans tous les secteurs évalués dans l'enquête, les Canadiens n'ont pas identifié un seul domaine dans lequel les incidences de l'IA seraient globalement négatives.

Informé par les résultats de l'enquête nationale, le GTSP, en partenariat avec le CIFAR et l'Algora Lab (Université de Montréal), a lancé une série d'ateliers intitulés Dialogue ouvert : L'intelligence artificielle (IA) au Canada. Les séances de dialogue ouvert ont invité les Canadiens à partager leurs points de vue sur les perceptions, les possibilités et les défis du développement de l'IA dans le cadre d'une série d'ateliers virtuels pancanadiens qui se sont déroulés de mars à mai 2021. Au cours des ateliers virtuels, le groupe de travail a rencontré plus de 430 Canadiens à travers le pays dans des séances virtuelles où les participants étaient invités à considérer et à discuter des dilemmes éthiques posés par des applications particulières de l'IA en explorant des scénarios d'utilisation de celle-ci. Dans le cadre de cet engagement, le groupe a également organisé des ateliers destinés aux jeunes, auxquels ont participé plus de 140 élèves de l'enseignement secondaire, qui ont échangé leurs points de vue et donné des conseils sur la manière de poursuivre le développement éthique de l'IA.

Le rapport final du GTSP, qui comprend les résultats individuels du sondage national ainsi que des ateliers de dialogue ouvert, sera rendu public à l'été 2021.

Le partenariat mondial sur l'IA

Après avoir conclu le sommet inaugural du Partenariat mondial sur l'IA (PMIA) avec ses homologues internationaux et plus de 200 éminents experts en IA en décembre 2020, le Canada a assumé la présidence du PMIA en 2020-2021. Dans le cadre de son rôle, le Canada s'appuiera sur les principes de la charte numérique canadienne pour promouvoir une vision d'un écosystème mondial de l'IA qui permette une innovation responsable et fiable, tout en favorisant la diversité et l'inclusion dans le domaine de l'IA.

Tout au long de l'année écoulée, les membres du Conseil consultatif ont joué un rôle important en conseillant et en faisant progresser le leadership du Canada au sein du PMIA. Ils ont été invités à partager leurs points de vue sur la participation aux événements du PMIA, notamment le Sommet de Montréal en décembre 2020.

Le coprésident du Conseil consultatif, Yoshua Bengio, est également le coprésident du groupe de travail sur l'IA responsable du PMIA. M. Bengio a informé le Conseil consultatif des activités du groupe de travail et de son sous-groupe sur l'IA et la réponse à la pandémie, notamment : les efforts visant à répertorier les initiatives d'IA responsables; les projets visant à comprendre les effets des systèmes de recommandation des médias sociaux sur la polarisation des opinions, à encourager la recherche ouverte en IA en vue de la mise au point de nouveaux médicaments afin de minimiser ou d'éviter d'éventuels futurs défis de santé publique et pandémies, et à tirer parti de l'IA dans la lutte contre le changement climatique; et les initiatives à plus long terme sur l'IA et l'éducation ainsi que sur la transparence et la gouvernance.

En outre, plusieurs projets ambitieux ont été proposés par d'autres groupes de travail du PMIA pour relever les principaux défis mondiaux, notamment les fiducies de données du monde réel pour permettre l'échange des données à des fins socialement bénéfiques, ainsi que des lignes directrices et des processus opérationnalisables pour garantir que l'IA est utilisée pour favoriser un travail bien fait et équitable. En vue du prochain sommet du PMIA qui aura lieu fin 2021 à Paris, le Conseil consultatif continuera à jouer un rôle déterminant pour éclairer la direction de ces projets d'IA appliqués. À ce titre, le Canada se tournera vers le Conseil consultatif pour s'assurer que le PMIA bénéficie de l'expertise canadienne et que le leadership précoce du Canada se traduise par des actions pratiques et efficaces pour faire progresser le développement et l'utilisation responsables de l'IA.

COVID-19 et IA

Alors que le Canada émerge de la pandémie de COVID-19, le Conseil consultatif continue de fournir des conseils d'experts sur les occasions, les défis, les risques et les menaces en lien avec la COVID-19 pour le secteur canadien de l'IA.

Des représentants de plusieurs des instituts nationaux pancanadiens de l'IA se sont adressés au Conseil consultatif au sujet de leurs réponses individuelles et collectives à la pandémie de COVID-19. En réponse à la pandémie, les instituts d'IA du Canada ont approfondi et élargi leurs activités de collaboration, tant à l'échelle nationale qu'internationale, notamment en tirant parti des subventions catalytiques multidisciplinaires pour l'IA du CIFAR. Les instituts d'IA ont également orienté leurs recherches et leurs applications pour faire face aux conséquences de la pandémie. Ils se sont notamment attaqués à des problèmes importants, comme le suivi de la santé mentale ainsi que la détection et la surveillance de la pneumonie chez les patients, et ils ont apporté leur expertise au développement de plateformes provinciales de données sur la santé.

Plusieurs membres du Conseil consultatif ont également relaté leurs expériences personnelles durant la pandémie en tant que chefs d'entreprise pour des sociétés canadiennes innovantes axées sur l'IA. De manière générale, le secteur canadien de l'IA a été bien servi par l'ensemble des programmes gouvernementaux conçus à la fois pour fournir une aide temporaire et pour stimuler l'activité économique. Les membres du Conseil consultatif ont conseillé aux décideurs de garder à l'esprit plusieurs considérations clés au moment où le Canada émerge de la pandémie de COVID-19 :

• L'importance de l'image de marque « fait au Canada » pour le secteur canadien de l'IA, qui est susceptible de communiquer les valeurs et l'éthique inhérentes à l'IA aux clients internationaux;
• La conservation et l'utilisation des talents en IA de tout le pays, compte tenu notamment des réalités de la répartition de la main-d'œuvre;
• Les défis liés à l'adoption de l'IA qui sont alimentés par l'accès à des données de qualité et un manque de connaissances techniques dans les organisations clientes;
• L'impact de l'amélioration de la rapidité, de l'accès et de la transparence des programmes gouvernementaux qui a accompagné sélectivement la pandémie.

Le Conseil consultatif continuera à fournir des informations et à formuler des recommandations ciblées au gouvernement fédéral au fur et à mesure de la réouverture de l'économie, et en particulier lorsque ce dernier prendra des mesures dans le cadre du renouvellement et de l'expansion de la Stratégie pancanadienne en matière d'IA.

L'IA et les soins de santé

En septembre 2020, Elissa Strome, membre du Conseil consultatif et directrice générale du CIFAR, a présenté le rapport final et les principales recommandations du groupe de travail sur l'IA au service de la santé (AI4H). Réuni pour la première fois au printemps 2019, le groupe de travail a été convoqué par le CIFAR pour discuter des possibilités pour le Canada de faire progresser l'IA pour la santé. De manière générale, le Canada possède de nombreux avantages qui pourraient permettre une meilleure intégration de l'IA dans le système de soins de santé, comme un écosystème entrepreneurial et une population diversifiée. Cependant, le Canada manque de coordination pour travailler efficacement entre les secteurs et les compétences. Le rapport présente trois recommandations principales :

• Mettre en place une infostructure de la santé (y compris une infrastructure informatique, des ensembles de données, des cadres stratégiques et des modèles d'engagement public) qui donne un accès responsable aux données sur la santé tout en garantissant la sécurité des données et la protection de la vie privée.
• Accélérer le développement d'applications d'IA au service de la santé sûres et performantes par les institutions publiques et les entreprises privées, ainsi que le déploiement de mesures incitatives qui favorisent les achats stratégiques et la mise à l'échelle responsable de ces applications au sein des systèmes de santé canadiens.
• Veiller à ce que les plans fédéraux et provinciaux/territoriaux visant à faire progresser la santé numérique soient associés à une stratégie explicite en matière d'IA au service de la santé comportant des politiques, des investissements, des partenariats et des cadres réglementaires pertinents.

En avril 2021, le coprésident du Conseil consultatif, Yoshua Bengio, a fait une présentation devant le Conseil sur les mesures incitatives à l'innovation efficace. Dans le cadre de cette analyse, il a cerné des innovations qui profiteraient considérablement à la société, mais qui pourraient ne pas intéresser le secteur privé en raison d'un risque élevé ou d'un manque de valeur commerciale perçue. M. Bengio a cité des exemples, comme l'IA pour la découverte de médicaments (en particulier de nouveaux antibiotiques), ainsi que la découverte de matériaux et le suivi et contrôle des opérations de plantation d'arbres pour lutter contre le changement climatique. Il a recommandé que, pour encourager l'innovation ayant un impact sociétal important, les gouvernements devraient financer l'innovation en utilisant non seulement des subventions mais aussi des récompenses basées sur les résultats, et lier leur financement de l'innovation à des exigences plus larges qui obligeront les promoteurs à échanger leurs résultats (science ouverte) ainsi que leurs données (données ouvertes).

Lors de la table ronde qui a suivi, les membres du Conseil consultatif ont cité plusieurs initiatives importantes ayant des incidences sur le secteur des soins de santé. Il s'agit notamment de la Feuille de route pour la science ouverte, une initiative dirigée par Mme Mona Nemer, membre du Conseil consultatif, qui fournit des principes généraux et des recommandations pour les activités de science ouverte au Canada. Les membres du Conseil consultatif ont également noté les pratiques exemplaires dans le domaine des soins de santé, en particulier les initiatives pionnières de science ouverte en santé qui sont en cours à l'Institut-hôpital neurologique de Montréal, qui encouragent les données ouvertes dans le domaine des soins de santé.

L'intégration des technologies de l'IA dans les soins de santé restera une question essentielle qui mérite d'être examinée et explorée plus avant par le Conseil consultatif.

Autres consultations

En novembre 2020, le Conseil consultatif a rencontré Chantal Guay, directrice générale du Conseil canadien des normes. Mme Guay a présenté au Conseil consultatif un exposé axé sur l'élaboration des normes nationales du Canada en matière d'IA, suivi d'une discussion sur l'utilisation de ces normes pour s'assurer que les intérêts économiques et sociaux du Canada demeurent au premier plan du développement des futures technologies novatrices.

Elle a noté qu'en raison de la croissance, des incidences et de la complexité des technologies d'IA à l'échelle mondiale, les gouvernements et les organismes de réglementation du monde entier tentent de définir des lignes directrices, des cadres réglementaires et des stratégies nationales en matière d'IA dans le but de la réglementer. La technologie de l'IA a atteint un niveau de préparation auquel la normalisation est cruciale pour garantir le développement d'une technologie, d'une innovation, d'une commercialisation et d'une mise en œuvre sur le marché responsables. Les pays, qui sont les chefs de file en matière d'IA, ont investi massivement dans les normes internationales, notamment les États-Unis, l'Allemagne, la France et la Chine. Le Canada fait entendre sa voix au sein de la principale plateforme internationale d'élaboration de normes pour l'IA et les données volumineuses (ISO/IEC JTC 1/SC 42).

Les membres du Conseil consultatif ont été invités à participer au Collectif canadien de normalisation en matière de gouvernance des données et ont été informés du programme pilote d'évaluation de la conformité et d'accréditation de l'IA.

Année à venir

Alors que le Canada émerge de la pandémie de COVID-19, le Conseil consultatif continuera à conseiller en priorité le gouvernement du Canada sur les défis et les possibilités de développer les capacités nationales du Canada en matière d'IA et de renforcer le leadership international du Canada dans ce domaine.

Mise en œuvre la Stratégie pancanadienne en matière d'IA renouvelée

Le Conseil consultatif continuera de conseiller le gouvernement du Canada au fur et à mesure de la réalisation de la deuxième phase de la Stratégie pancanadienne en matière d'IA, comme annoncé dans le budget 2021. Ses conseils seront essentiels au moment où le Canada priorise le réinvestissement dans ses centres d'expertise en IA, crée des programmes supplémentaires pour soutenir la commercialisation de nouvelles technologies canadiennes en IA, met en œuvre une capacité de calcul accrue pour les chercheurs du domaine et continue de faire progresser le développement et l'adoption de normes pour celui-ci.

Compétences futures et développement des talents

Le Conseil consultatif continue d'accorder une attention particulière à la réserve de talents en IA au Canada. Au cours de l'année à venir, il prévoit de s'engager dans des initiatives en matière de compétences et de talents qui peuvent aider le Canada à accroître sa base de talents nationaux, à assurer une plus grande sensibilisation à l'IA en tant que précurseur de son adoption et à gérer les transitions en milieu de travail liées à l'IA d'une manière réfléchie, inclusive et diversifiée.

Partage de données, données ouvertes et science ouverte

S'appuyant sur les conversations de l'année dernière, le Conseil consultatif continuera de discuter de mesures et d'instruments qui pourraient augmenter et encourager les données ouvertes, la science ouverte et le partage de données dans les domaines académique et commercial, en se concentrant sur les cas où le partage/l'accès aux données entraînerait avantages pour le bien public.

Mobilisation du public

Le Conseil consultatif publiera le rapport final du groupe de travail sur la sensibilisation du public au cours de l'été 2021. Ce rapport résumera les principales conclusions du sondage national et des ateliers pancanadiens de dialogue ouvert dans le but de fournir une feuille de route et les pratiques exemplaires au gouvernement du Canada concernant les stratégies de mobilisation exhaustives et importantes avec le public canadien sur le développement responsable et éthique de l'IA.

Direction du PMIA

Dans le cadre d'événements d'engagement directs et d'un rôle consultatif, le Conseil consultatif continuera à jouer un rôle clé dans l'élaboration du leadership du Canada en tant que président du PMIA. L'expertise et les conseils offerts par le Conseil consultatif continueront d'être sollicités par le gouvernement du Canada à mesure que les groupes de travail du PMIA lanceront et mettront en œuvre leurs premiers projets d'IA appliquée.

Renouvellement du Conseil consultatif

Les membres du Conseil consultatif ayant été initialement nommés pour un mandat de deux ans avec possibilité de renouvellement, sa composition sera examinée et revue par le gouvernement du Canada. Ce dernier remercie tous les membres du Conseil consultatif pour leurs années de service et de dévouement.