Comment dois-je mettre en place un système de décision automatisé? (ébauche)

Donnez votre avis sur cette page

Nous vous encourageons à soumettre vos commentaires en utilisant l'une des options de commentaires ouvertes suivantes :

Si vous rencontrez des problèmes avec les options de commentaires ouverte, veuillez nous contacter via le compte de messagerie unGC.

Filtres

Détails du contenu
Stage de développement
Type de section
Filtres exclusifs

Cette page fournit des conseils personnalisés sur la façon dont les projets peuvent mettre en œuvre un système de décision automatisé.

Le gouvernement du Canada envisage de plus en plus d’utiliser la technologie et les systèmes automatisés afin de prendre, ou aider à prendre, des décisions administratives, pour améliorer la prestation des services. Il s’engage à le faire d’une manière qui est compatible avec les principes de base du droit administratif comme la transparence, la responsabilisation, la légalité et l’équité procédurale.

Filtres (spécifique à la page)
Type de système de décision automatisé
Niveau d'impact
Détails du niveau d'impact
Niveau I

La décision a peu ou pas de répercussions sur les droits ou les intérêts d’une personne, d’une entité ou d’un organisme gouvernemental.

On peut raisonnablement considérer qu’une décision erronée n’entraînerait aucun dommage ou entraînerait des dommages minimes.

Niveau II

La décision a une incidence modérée sur les droits ou les intérêts d’une personne, d’une entité ou d’un organisme gouvernemental.

On peut raisonnablement considérer que la compromission entraînerait des dommages de minimes à modérés.

Niveau III

La décision a une incidence élevée sur les droits ou les intérêts d’une personne, d’une entité ou d’un organisme gouvernemental.

On peut raisonnablement considérer que la compromission entraînerait des dommages modérés à graves.

Niveau IV

La décision a une incidence très élevée sur les droits ou les intérêts d’une personne, d’une entité ou d’un organisme gouvernemental.

On peut raisonnablement considérer que la compromission entraînerait des dommages graves à catastrophiques.

1. Initiation

Liste de contrôle

  • Mener une évaluation de l'impact algorithmique avant la production tout système décisionnel automatisé.
  • Appliquer les exigences suivanteses, comme l'a déterminé l'évaluation de l'impact algorithmique:
    • Exigence d'approbation :
      • Niveau I : Aucune
      • Niveau II : Conseil d'examen de l'architecture intégrée du gouvernement du Canada
      • Niveau III : Conseil d'examen de l'architecture intégrée du gouvernement du Canada
      • Niveau IV :
        • Conseil d'examen de l'architecture intégrée du gouvernement du Canada
        • Exige une autorisaton particulière du Conseil du Trésor
  • S'assurer que l'évaluation de l'impact algorithmique demeure à jour et tient compte de manière exacte des fonctionnalités du système décisionnel automatisé.
  • Diffuser les résultats finaux des évaluations d'impact algorithmique dans un format accessible au moyen des sites Web et des services du gouvernement du Canada et des services désignés par le Sécretariat du Conseil du Trésor du Canada (SCT) conformément à la Directive sur le gouvernement ouvert.

2. Analyse / approche

Liste de contrôle

  • Consulter l'unité des services jurisdiques de l'institution, pour veiller à ce que l'utilisation du système décisionnel automatisé soit conforme aux exigences juridiques applicables.
  • Effectuer des évaluations des risques tout au long de l'élaboration du système et s'assurer des mesures de protection appropriées à appliquer, conformément à la Politique sur la sécurité du gouvernement.

3. Conception / construction

Liste de contrôle

  • Conserver les experts suivants pour examiner le système décisionnel automatisé, en fonction du niveau d'évaluation de l'impact :
    • Niveau I : Aucune
    • Niveau II : Au moins l'une des suivantes :
      • Expert qualifié d'une institution gouvernementale fédérale, provinciale, territoriale ou municipale
      • Membres qualifiés d'une faculté d'un établissement postsecondaire
      • Chercheurs qualifiés d'une organisation non gouvernementale pertinente
      • Tiers fournisseur à forfait avec une spécialisation connexe
      • Publication des spécifications du système décisionnel automatisé dans une revue à comité de lecture
    • Niveau III : Au moins l'une des suivantes :
      • Expert qualifié d'une institution gouvernementale fédérale, provinciale, territoriale ou municipale
      • Membres qualifiés d'une faculté d'un établissement postsecondaire
      • Chercheurs qualifiés d'une organisation non gouvernementale pertinente
      • Tiers fournisseur à forfait avec une spécialisation connexe
      • Publication des spécifications du système décisionnel automatisé dans une revue à comité de lecture
    • Niveau IV : Au moins deux des suivantes :
      • Experts qualifiés du Conseil national de recherches du Canada ou de Statistique Canada
      • Membres qualifiés d'une faculté d'un établissement postsecondaire
      • Chercheurs qualifiés d'une organisation non gouvernementale pertinente
      • Tiers fournisseur à forfait avec une spécialisation connexe
      • OU : Publication des spécifications du système décisionnel automatisé dans une revue à comité de lecture
  • S'assurer que les employés pertinents sont suffisament formés lors de la conception, de la fonction et de la mise en œuvre du système décisionnel automatisé pour être en mesure d'examiner, d'expliquer et de superviser le processus décisionnel automatisé, comme il est prescrit dans ce qui suit :
    • Niveau I : Aucune
    • Niveau II : Documents sur la conception et la fonctionnalité du système
    • Niveau III :
      • Documents sur la conception et la fonctionnalité du système
      • Il faut suive des cours de formation.
    • Niveau IV :
      • Documents sur la conception et la fonctionnalité du système
      • Cours de formation récurrents.
      • Un moyen de vérifier que la formation a été suivie.

4. Déploiement / opération

Liste de contrôle

  • Mettre à la disposition du public tous les codes sources utilisés pour le système décisionnel automatisé sur l'Échange de ressources ouvert.
  • Dans les cas où l'on considère le code source ne devrait pas être divulgué, obtenir l'approbation du Comité d'examen de l'architecture intégrée de l'exonérer de la divulgatio. Dans ces cas, la justification pour expliquer pourquoi le code n'a pas été divulgué doit être publiée selon la processus prévu dans la Directive sur le gouvernement ouvert.
  • Le code source pour les systèmes qui sont classés SECRET ou TRÈS SECRET est exempté de le mettre à la dispostion du public sur l'Échange de ressources ouvert.
  • S'assurer que toutes les licences nécessaires pour les systèmes décisionnels automaisés sont ouvertes comme énumérées dans le Registre des logiciels de source libre.
  • Veiller à ce que le Canada conserve le droit d'avoir accès à une propriété intellectuelle originale pour répondre à toutes les contestations judiciaires.
  • Avant d'entrer en production, élaborer les processus appropriés afin de s'assurer que les données d'apprentissage sont évaluées pour la présence de biais imprévus dans les données et d'autres facteurs qui pourraient influencer injustement les résultats.
  • Informer les personnes touchées que la décision rendue sera prise en totalité ou en partie par un système décisionnel automatisé comme prescrit dans ce qui suit :
    • Niveau I : Aucune
    • Niveau II : Avis en langage simple affiché sur le site Web du programme ou du service.
    • Niveau III :
      • Avis en langage simple affiché sur le site Web du programme ou du service.
      • Si le service comprend une demande en ligne, l'avis doit être fait au moment de la présentation de la demande.
      • Le site Web doit renvoyer à des renseignements supplémentaires où des renseignements sur le système l'information sont fournis, y compris :
        • le rôle que le système décisionnel automatisé a dans le processus décisonnel;
        • une description des données d'apprentissage ou un lien vers les données d'apprentissage anonymisées si ces données sont publiquement disponibles;
        • une description des critères utilisés pour rendre la décision, y compris les règles administratives pertinentes.
    • Niveau IV :
      • Avis en langage simple affiché sur le site Web du programme ou du service.
      • Si le service comprend une demande en ligne, l'avis doit être fait au moment de la présentation de la demande.
      • Le site Web doit renvoyer à des renseignements supplémentaires où des renseignements sur le système l'information sont fournis, y compris :
        • le rôle que le système décisionnel automatisé a dans le processus décisonnel;
        • une description des données d'apprentissage ou un lien vers les données d'apprentissage anonymisées si ces données sont publiquement disponibles;
        • une description des critères utilisés pour rendre la décision, y compris les règles administratives pertinentes.
  • Fournir une explication significative aux personnes touchées de la façon dont la décision a été prise et de la raison pour laquelle elle a été prise, comme le prescrit ce qui suit :
    • Explication de l'exigence pour la recommendation :
      • Niveau I : Aucune
      • Niveau II : Aucune
      • Niveau III : Explication significative fournie sur demande fondée sur l'examen mené par une machine ou un humain.
      • Niveau IV :
        • Explication significative, y compris les variables utilisées dans la décision, fournie avec la décision prise.
        • L'explication peut être générée par un humain ou une machine.
    • Explication de l'exigence pour les décisions :
      • Niveau I : Une explication fournie sur demande fondée sur l'examen mené par une machine ou un humain. Cela peut inclure la section de la foire aux questions d'un site Web.
      • Niveau II : Explication significative fournie sur demande fondée sur l'examen mené par une machine ou un humain.
      • Niveau III :
        • Explication significative, y compris les variables utilisées dans la décision, fournie avec la décision prise.
        • L'explication peut être générée par un humain ou une machine.
      • Niveau IV :
        • Explication significative, y compris les variables utilisées dans la décision, fournie avec la décision prise.
        • L'explication peut être générée par un humain ou une machine.
  • Fournir aux personnes concernées des renseignements sur les options qui s'offrent à eux pour des recours afin de contester la décision ou la recommendation automatisée.
  • Sous réservé des exigences prescrites dans ce qui suit, veiller à ce que des processus ou des systèmes d'urgence soient disponibles si le système décisionnel automatisé est indisponible pour une période prolongée :
    • Niveau I : Aucune
    • Niveau II : Aucune
    • Niveau III : Veiller à ce que des plans d'urgence ou des systèmes de secours soient disponibles si le système décisionnel automatisé est indisponible.
    • Niveau IV : Veiller à ce que des plans d'urgence ou des systèmes de secours soient disponibles si le système décisionnel automatisé est indisponible.

5. Évaluation

Liste de contrôle

  • Surveiller les résultats des systèmes décisionnels automatisés de façon continue afin de prévenir les résultats non intentionnels et assurer la conformité aux lois liées aux institutions et aux programmes, ainsi qu'à la Directive sur les processus décisionnels automatisés (ébauche) (GC).
  • Publier des renseignements sur le'efficacité et l'efficience des systèmes décisionnels automatisés chaqu année dans un site Web ou un service désigné par le Conseil du Trésor du Canada.
  • Veiller à ce que les données utilisées par le système décisionnel automatisé soient régulièrement mises à l'essai pour s'assurer qu'elles sont toujours pertinentes, exactes et à jour, et respectent toute politique ou directive liée aux pratiques de gestion des données conformément à la Politique sur la gestion de l'information.
  • Sur demande, fournir des renseignements sur l'atteinte des résultats escomptés du système décisionnel automatisé et la conformité à la Directive sur les processus décisionnels automatisés (ébauche) (GC) au SCT.