Institut canadien de la sécurité de l'intelligence artificielle

Lisez notre premier billet de blogue pour obtenir de l’information et des pratiques exemplaires sur la sécurité de l’IA et les modèles d’évaluation.

L’Institut canadien de la sécurité de l’intelligence artificielle (ICSIA) est un des volets du plan du gouvernement du Canada visant à soutenir le développement et le déploiement sûrs et responsables de l’intelligence artificielle (IA) au pays. Notre objectif est de faire progresser la science de la sécurité de l’IA, en collaboration avec des partenaires internationaux, afin que les gouvernements soient bien positionnés pour comprendre les risques que posent les systèmes d’IA avancés et pour agir en conséquence. Ces risques peuvent découler de la production de contenus synthétiques, de cas d’usurpation d’identité ou de fraude, ou du développement et du déploiement de systèmes qui peuvent être dangereux et entraver la surveillance humaine. Pour y parvenir, nous travaillons avec des experts du gouvernement, des entreprises, le milieu universitaire et des organismes de recherche.

L’ICSIA est dirigé par Innovation, Sciences et Développement économique Canada, et met à contribution les capacités de recherche du Conseil national de recherches Canada et de l’ensemble de la communauté scientifique canadienne, par l’intermédiaire de l’Institut canadien de recherches avancées (CIFAR).

Notre travail

Nous tirons profit de la solide communauté de recherche en IA du Canada ainsi que de notre expertise interne pour mener des recherches de pointe en collaboration avec l’industrie et le Réseau international des instituts de sécurité de l’IA. Nous étudions le fonctionnement des systèmes d’IA avancés et nous fournissons des outils pour que le gouvernement du Canada soit bien placé pour faire face aux risques liés à la sécurité de l’IA au fur et à mesure qu’ils se présentent. En travaillant avec des partenaires au Canada et partout dans le monde, nous visons à nous assurer que la technologie de l’IA est utilisée de façon sécuritaire et que les Canadiens peuvent avoir confiance en elle, ce qui nous permet de paver la voie en vue de son adoption responsable et de soutenir l’innovation.

Nous menons la recherche sous deux angles clés :

Recherche appliquée et dirigée par des chercheurs : Par l’intermédiaire du CIFAR, nous subventionnons des experts canadiens et internationaux pour qu’ils mènent des recherches sur des questions critiques liées à la sécurité de l’IA. Le programme de recherche de l’ICSIA au CIFAR permet d’assurer que la recherche avancée informe notre compréhension des risques liés à l’IA.
Projets dirigés par le gouvernement : Nous menons des projets qui soutiennent les priorités du gouvernement en matière de sécurité de l’IA, y compris des tests conjoints avec des homologues internationaux, et nous offrons un soutien aux développeurs d’IA, aux utilisateurs et au public en ce qui concerne les risques que présentent les systèmes d’IA avancés et la façon de les aborder.

Article de blogues

Considérations et pratiques exemplaires à l’intention des chercheurs, des évaluateurs et du grand public.

Quels renseignements les évaluateurs de l’IA devraient-ils communiquer?

Le 8 juillet 2026

La communication de renseignements clairs et cohérents sur les évaluations qui sont faites de l’IA aide les gens à prendre des décisions éclairées. Ce blogue présente des considérations et des pratiques exemplaires sur la communication de ces résultats afin que ceux-ci soient bien compris, inspirent confiance et soient utilisés de manière responsable.

Lisez le billet

Le rôle mondial du Canada dans la sécurité de l'IA

L’établissement du Réseau international des instituts de sécurité de l’IA a été annoncé lors du Sommet de Séoul sur l’IA en mai 2024, avec le Canada comme membre fondateur, et sa rencontre inaugurale a eu lieu en novembre 2024. En tant que membre fondateur du réseau, l’ICSIA coordonne activement ses efforts avec les partenaires internationaux et collabore à des projets conjoints, notamment à l’élaboration de lignes directrices sur l’IA.

Stratégie canadienne en matière d'IA

L’ICSIA soutient d’autres initiatives du gouvernement du Canada qui visent collectivement à soutenir le développement et l’adoption responsables de l’IA au Canada tout en protégeant les Canadiens contre les risques associés à cette technologie, dont les suivantes :