Groupe consultatif sur l'IA sécuritaire et sûre

De : Innovation, Sciences et Développement économique Canada

Lancé en février 2025 dans le cadre du Conseil consultatif en matière d'intelligence artificielle du gouvernement du Canada, le Groupe consultatif sur l'IA sécuritaire et sûre veillera à ce que le gouvernement du Canada et l'Institut canadien de la sécurité de l'intelligence artificielle (ICSIA) soient bien informés des risques associés aux systèmes d'IA et de la manière de les gérer.

Le groupe consultatif travaillera en étroite collaboration avec l'ICSIA pour établir les priorités de recherche et s'engager dans un travail continu en vue d'une réglementation et d'une gouvernance efficaces des risques émergeant du développement et du déploiement des systèmes d'IA dans l'économie.

Sur cette page

Biographies des membres

Yoshua Bengio

Président, Groupe consultatif sur l'IA sécuritaire et sûre
Membre du Conseil consultatif en matière d'IA
Directeur scientifique, Mila
Professeur titulaire, Université de Montréal

Yoshua Bengio est professeur titulaire d'informatique à l'Université de Montréal, ainsi que fondateur et directeur scientifique de Mila et titulaire d'une chaire en IA Canada CIFAR. Considéré comme l'un des leaders mondiaux en intelligence artificielle et en apprentissage profond, il a reçu le prix A.M. Turing 2018, considéré comme le « prix Nobel de l'informatique ». Il est également l'informaticien le plus cité au monde.

Le professeur Bengio est membre de la Société Royale de Londres et du Canada, officier de l'Ordre du Canada, chevalier de la Légion d'honneur de France, membre du Conseil scientifique consultatif des Nations unies pour les percées de la science et de la technologie et préside le Rapport international sur la sécurité de l'IA.

 

Jeff Clune

Professeur, Université à l'Université de la Colombie-Britannique

Jeff Clune est professeur d'informatique à l'Université de Colombie-Britannique, titulaire de la chaire Canada CIFAR en IA à l'Institut Vecteur et conseiller principal en recherche chez DeepMind. Jeff se concentre sur l'apprentissage profond, y compris l'apprentissage par renforcement profond. Auparavant, il a été directeur de recherche chez OpenAI, directeur de recherche principal et membre fondateur d'Uber AI Labs (formé après qu'Uber ait acquis une start-up qu'il a contribué à diriger), professeur associé Harris en informatique à l'Université du Wyoming et chercheur à l'Université Cornell. Il est diplômé de l'Université d'État du Michigan (doctorat, maîtrise) et de l'Université du Michigan (licence). Depuis 2015, il a remporté le Presidential Early Career Award for Scientists and Engineers de la Maison Blanche, a publié deux articles dans Nature, un dans Science et un dans PNAS, a remporté un prix NSF CAREER, a reçu les prix Outstanding Paper of the Decade et Distinguished Young Investigator, a reçu deux prix Test of Time, et a reçu des prix du meilleur article, des présentations orales et des conférences invitées lors des plus grandes conférences sur l'apprentissage automatique (NeurIPS, CVPR, ICLR, et ICML). Ses recherches sont régulièrement couvertes par la presse, notamment le New York Times, NPR, le New Yorker, CNN, NBC, Wired, la BBC, The Economist, Science, Nature, National Geographic, The Atlantic et New Scientist.

 

David Duvenaud

Professeur agrégé, Université de Toronto

David Duvenaud est professeur agrégé en informatique et en statistiques à l'Université de Toronto. Il est titulaire d'une bourse de recherche Sloan, d'une chaire de recherche du Canada en modèles génératifs et d'une chaire CIFAR en IA. Il a publié plus de 50 articles sur l'apprentissage automatique et l'intelligence artificielle. Il a effectué son post-doctorat à l'Université de Harvard et son doctorat à l'Université de Cambridge. Il est membre fondateur de l'institut Vector pour l'intelligence artificielle. Il a récemment passé un an et demi chez Anthropic, où il a dirigé l'équipe d'évaluation de l'alignement, contribué à la politique de mise à l'échelle responsable et dirigé des projets de recherche sur les jailbreaks et le sabotage. Il est également codirecteur du Schwartz Reisman Institute for Technology and Society, directeur de l'AI Safety Foundation et a été conseiller pour Cohere. Il a également reçu un prix du corps professoral Google et plusieurs prix pour le meilleur article à la conférence Neural Information Processing Systems (NeurIPS) et à la conférence internationale sur l'apprentissage automatique (ICML).

 

Golnoosh Farnadi

Professeure adjointe, Université McGill,
Professeure auxiliaire, Université de Montréal

Dre. Golnoosh Farnadi est professeure adjointe à l'École d'informatique de l'Université McGill et professeure auxiliaire à l'Université de Montréal. Elle est chercheuse invitée chez Google, membre académique principal du MILA (Institut québécois d'intelligence artificielle) et titulaire de la chaire Canada CIFAR en IA depuis 2021. Elle est codirectrice du Collaboratif pour l'IA et la société (McCAIS) de l'Université McGill et fondatrice du laboratoire EQUAL (EQuity & EQuality Using AI and Learning algorithms) à Mila / Université McGill. Les contributions de Mme Farnadi ont été récompensées par des prix prestigieux, notamment le Google Scholar Award et le Facebook Research Award en 2021. Elle a également reçu un prix Google pour ses recherches sur l'inclusion en 2023 et a été reconnue comme finaliste pour le prix Women in AI Responsible AI Leader of the Year 2023. L'engagement de la Dre Farnadi en faveur de l'avancement des pratiques éthiques en matière d'IA lui a également valu d'être reconnue comme l'une des 100 femmes brillantes en éthique de l'IA 2023.

 

David Lie

Professeur, Université de Toronto

David Lie est professeur et titulaire d'une chaire de recherche du Canada de niveau 1 en systèmes sécurisés et fiables au département de génie électrique et informatique de l'Université de Toronto. Il est directeur de l'Institut Schwartz Reisman, qui exploite la recherche interdisciplinaire pour développer des technologies transformatrices telles que l'IA pour le bien de la société. Il est également directeur associé du Data Sciences Institute, affilié à la faculté Vector et chercheur principal au Massey College, ainsi que membre du département d'informatique et de la faculté de droit. David est un chercheur de premier plan, connu pour ses travaux novateurs sur l'architecture XOM, précurseur des extensions modernes de processeurs d'exécution sécurisés tels que Intel TDX et SGX, et AMD SEV. Ses travaux sur XOM lui ont valu un prix du meilleur article au SOSP. Il a également développé l'outil de cartographie des autorisations PScout Android, largement utilisé, qui a été téléchargé plus de 10 000 fois et cité dans des dizaines d'articles. En outre, David a siégé sur de nombreux comités de programme, notamment OSDI, Usenix Security, IEEE Security & Privacy, NDSS, et est président du comité du programme technique de l'ACM CCS de 2024 à 2025.

 

Deval Pandya

Vice-président et chef de l'ingénierie de l'IA à l'Institut Vecteur

Le Dr Deval Pandya est un leader reconnu dans le domaine de l'IA et des applications dans la transition énergétique et le climat. Il est vice-président et responsable de l'ingénierie de l'IA à l'Institut Vecteur, où il travaille à la mise en œuvre, à l'amplification et à l'application des avancées de l'IA. Il occupe un poste d'expert au sein de la Commission économique des Nations unies pour l'Europe - Groupe de travail sur la numérisation dans le domaine de l'énergie. Passionné par l'innovation, il conseille de nombreuses entreprises en démarrage, des sociétés de capital-risque et des incubateurs. Auparavant, il a été membre fondateur du Data Science CoE et responsable de l'apprentissage automatique pour les actifs et les nouvelles énergies chez Shell. Il a notamment été reconnu comme leader de l'énergie du futur par le Conseil mondial de l'énergie, leader des techniciens émergents de Peak's au Canada, meilleur cadre supérieur en IA par le Conseil technologique Canada-Inde et l'un des 100 meilleurs innovateurs mondiaux en IA par le Sommet mondial de l'IA.

 

Joelle Pineau

Professeure, Université McGill

Joelle Pineau est membre clé de Mila et professeure à l'École d'informatique de l'Université McGill, à Montréal, au Canada. Elle est également vice-présidente de la recherche en IA chez Meta, où elle dirige l'équipe de recherche fondamentale en IA (FAIR), avec des laboratoires au Canada, aux États-Unis et en Europe. Elle est titulaire d'un BASc en ingénierie de l'Université de Waterloo, ainsi que d'un MSc et d'un PhD en robotique de l'Université Carnegie Mellon. Les recherches de Mme Pineau portent sur le développement de nouveaux modèles et algorithmes pour la planification et l'apprentissage dans des domaines complexes. Elle travaille également à l'application de ces algorithmes à des problèmes réels dans les domaines de la robotique, des soins de santé et des agents conversationnels. Elle est lauréate de la bourse commémorative E.W.R. Steacie du CRSNG (2018), des Prix du Gouverneur général pour l'innovation (2019), titulaire d'une chaire CIFAR Canada AI (CCAI), membre de l'Association for the Advancement of Artificial Intelligence (AAAI) et membre de la Société royale du Canada (SRC).

 

Deborah Raji

Chargée de recherche à la Leadership Conference on Civil and Human Rights

Inioluwa Deborah Raji est chargée de recherche à la Leadership Conference on Civil and Human Rights et a été auparavant chargée de recherche principale en IA fiable à la Fondation Mozilla. Elle a travaillé en étroite collaboration avec l'industrie, la société civile et le monde universitaire pour faire avancer divers projets visant à opérationnaliser les considérations éthiques dans la pratique de l'apprentissage automatique, et à faire progresser les normes d'analyse comparative et d'évaluation des modèles dans ce domaine. Elle s'intéresse en particulier à l'impact des choix d'ingénierie des modèles (de l'évaluation aux choix de données) sur la protection des consommateurs, la responsabilité du fait des produits, l'approvisionnement, les pratiques anti-discrimination et d'autres formes de responsabilité juridique et institutionnelle liées aux dommages fonctionnels. Elle siège sur les conseils consultatifs du Center for Democracy and Technology AI Governance Lab, du Health AI Partnership, du REALML et du Center for Civil Rights and Technology.

Pour ses efforts, elle a été nommée dans les classements du Forbes 30 Under 30, du MIT Tech Review 35 Under 35 Innovators et du TIME 100 personnalités les plus influentes en IA. En 2024, elle a également reçu le prix Tech For Humanity et le prix Mozilla Rise 25, et a été colauréate du prix EFF Pioneer Barlow avec Joy Buolamwini et Timnit Gebru. Elle a obtenu une licence en sciences appliquées en ingénierie à l'Université de Toronto. Elle termine actuellement son doctorat en informatique à l'Université de Californie, Berkeley.

 

Elissa Strome

Directrice générale de la stratégie pancanadienne en matière d'intelligence artificielle au CIFAR

Elissa Strome est directrice générale de la stratégie pancanadienne en matière d'intelligence artificielle au CIFAR. Elle travaille avec les dirigeants des trois instituts nationaux d'IA du Canada à Edmonton (Amii), Montréal (Mila) et Toronto (Vector Institute) et dans tout le pays pour faire progresser le leadership du Canada dans la recherche, la formation et l'innovation en matière d'IA. Elle est une championne de l'équité, de la diversité et de l'inclusion dans le domaine des sciences, et une ambassadrice de la position du Canada dans la recherche, l'innovation et la politique en matière d'IA au niveau international. Elissa est membre du Conseil consultatif en matière d'IA du gouvernement fédéral, membre du Réseau d'experts sur l'IA et du Groupe d'experts en matière d'IA dans le domaine de la santé de l'OCDE, membre du Comité consultatif d'experts de Santé Canada pour l'IA dans le domaine de la santé, et siège au Conseil consultatif du Centre pour l'IA et la société de l'Université York. Son leadership et son soutien aux femmes et aux personnes de divers genres dans les STIM ont été reconnus par un prix spécial du jury lors des Women in AI Awards North America (2023) et le Womxn in Data Science Lifetime Achievement Award (2022).

Elissa a obtenu son doctorat en neurosciences à l'Université de Colombie-Britannique. Après un post-doctorat à l'Université de Lund, en Suède, elle a décidé de poursuivre une carrière dans la stratégie, la politique et le leadership en matière de recherche. De 2008 à 2017, elle a occupé des postes de direction au sein du bureau du vice-président de l'Université de Toronto, chargé de la recherche et de l'innovation, où elle a fait progresser les grandes priorités stratégiques de l'établissement en matière de recherche, notamment en créant et en dirigeant le consortium de recherche SOSCIP.

 

Adam White

Professeur adjoint, Université de l'Alberta

Adam White est professeur adjoint à l'Université de l'Alberta. Il est directeur scientifique de l'Alberta Machine Intelligence Institute, chercheur principal du groupe Reinforcement Learning and Artificial Intelligence de l'Université de l'Alberta et titulaire de la chaire Canada CIFAR en intelligence artificielle. Auparavant, Adam était chercheur scientifique chez Google Deepmind. Adam a co-créé la spécialisation en apprentissage par renforcement, suivie par plus de 95 000 étudiants sur Coursera.

Les recherches d'Adam visent à comprendre les principes fondamentaux de l'apprentissage dans les mondes simulés et les applications de contrôle industriel. Son programme de recherche explore comment le problème de l'intelligence peut être modélisé comme un agent d'apprentissage par renforcement interagissant avec un environnement inconnu, apprenant à partir d'un signal de récompense scalaire plutôt que d'un retour explicite.

Le groupe de recherche d'Adam est profondément passionné par les bonnes pratiques empiriques et les nouvelles méthodologies pour aider à déterminer si nos algorithmes sont prêts à être déployés dans le monde réel. Adam a été le pionnier des applications de l'apprentissage par renforcement dans de véritables usines de traitement des eaux potables et usées et est le cofondateur et le scientifique en chef de RL Core Technologies, une start-up qui applique l'IA et l'apprentissage automatique au contrôle industriel.

 

Mandat

1. Objectif et mandat

  1. L'objectif du groupe consultatif sur l'intelligence artificielle sécuritaire et sûre (le groupe consultatif) est de veiller à ce que le gouvernement soit bien informé sur les risques associés aux systèmes d'(IA) au fur et à mesure qu'ils apparaissent et sur la manière d'y faire face.
  2. Le mandat du groupe consultatif est de conseiller le ministre de l'Innovation, de la Science et de l'Industrie et l'Institut canadien pour la sécurité de l'IA (ICSIA) sur des questions clés dans ce domaine, notamment:
    1. Les dernières recherches sur la sécurité de l'IA;
    2. Risques émergents liés aux progrès de l'IA;
    3. Les priorités de l'ICSIA;
    4. Meilleures pratiques et normes en matière de gouvernance de l'IA;
    5. Les développements internationaux en matière de gouvernance ou de sécurité de l'IA; et
    6. Toute autre question relative à la gestion des risques liés à l'IA.
  3. En remplissant son mandat, le groupe consultatif pourra être occasionnellement demandé de fournir des comptes rendus ou des documents de discussion. Ces documents devront être approuvés par le Conseil consultatif en matière d'IA et par Innovation, Sciences et Développement économique Canada (ISDE) avant toute publication.

2. L'adhésion

  1. a. Composition et durée du mandat
    1. Le groupe consultatif sera composé d'experts canadiens de premier plan en matière de gouvernance de l'IA, de sécurité de l'IA et de domaines pertinents, et représentera une diversité de régions, de perspectives et d'expériences, y compris des membres de l'industrie canadienne, de la société civile et du monde universitaire.
    2. Au moins un membre est un membre du Conseil consultatif en matière d'IA.
    3. La groupe consultatif sera composé de membres qui serviront à titre bénévole et personnel, et de membres d'office qui siègent en vertu de leur rôle professionnel.
    4. Les membres seront nommés par le ministre de l'Innovation, des Sciences et de l'Industrie.
    5. L'ISDE peut inviter d'autres personnes ayant une expertise particulière ou des représentants d'autres services gouvernementaux ou d'organisations externes à participer à des réunions portant sur des sujets spécifiques ou des points de l'ordre du jour.
    6. Les membres individuels sont nommés pour un mandat de deux (2) ans, avec possibilité de renouvellement pour un autre mandat de deux ans.
  2. Conflit d'intérêts
    1. Les membres individuels du groupe consultatif exerceront leurs fonctions et fourniront des conseils exclusivement à titre personnel et bénévole en tant que personnes bien informées et dans le meilleur intérêt des Canadiens. Ils ne peuvent pas représenter leurs entreprises, organisations ou affiliations professionnelles, ni utiliser leurs fonctions à leur propre profit ou à celui de toute autre personne, entreprise ou organisation.
    2. Les membres d'office du groupe consultatif exerceront leurs fonctions et fourniront des conseils en leur qualité de professionnels, en tant que personnes bien informées et dans le meilleur intérêt des Canadiens. Ils peuvent représenter le point de vue et les opinions de leur organisation, mais ne peuvent utiliser leur position pour leur propre gain ou celui de leur organisation, ou celui de toute autre personne, entreprise ou organisation.
    3. Tous les membres sont tenus d'éviter les conflits d'intérêts réels, potentiels ou apparents, et sont censés se récuser sur les questions le cas échéant. La récusation d'un membre d'une discussion sera consignée dans le procès-verbal de la réunion.

3. Rôles et responsabilités

  1. Le président du groupe consultatif sera choisi parmi les membres du groupe consultatif et est nommé par le ministre de l'Innovation, des Sciences et de l'Industrie. Le président est censé :
    1. Assurer la liaison entre les membres et ISDE afin d'établir et de maintenir un environnement sain pour la délibération, le dialogue et la prise de décision; et
    2. Participer à des réunions bilatérales régulières avec le secrétariat du groupe consultatif ou le sous-ministre afin de partager des informations, de coordonner le programme et les travaux du groupe consultatif, et de fournir tout autre soutien nécessaire à l'accomplissement du mandat du groupe consultatif.
  2. ISDE assurera le secrétariat du groupe consultatif et pourra fournir des orientations sur le programme de travail:
    1. Le secrétariat travaillera avec le président du groupe consultatif pour élaborer et diffuser l'ordre du jour et les documents de réunion, coordonner la logistique des réunions, coordonner les dispositions contractuelles et organiser l'invitation des participants;
    2. Le secrétariat préparera des résumés des discussions de la réunion qui pourraient être publiés sur la page web du groupe consultatif;
    3. Le secrétariat effectuera tout autre travail nécessaire pour soutenir le travail du groupe consultatif, y compris la recherche et la préparation de projets de rapports.

4. Fréquence des réunions

  1. Le groupe consultatif se réunira toutes les 6 à 8 semaines ou en fonction des besoins pour répondre aux nouvelles exigences politiques ou opérationnelles.
  2. Les réunions se tiendront par vidéoconférence, sauf indication contraire.

5. Consultations et engagement des parties prenantes

Le groupe consultatif peut mener des consultations ou des processus d'engagement avec des parties prenantes externes de l'industrie, de la société civile et du milieu universitaire, ainsi qu'avec des Canadiens, afin d'intégrer des perspectives canadiennes plus larges dans ses travaux.

 Signaler un problème sur cette page
Date de modification: