Visibilité, traçabilité et gouvernance du processus décisionnel en matière d’intelligence artificielle (IA)

*Prière de noter que le site web SIC sera disponible le 30 octobre 2026 à 10:30 HNE. Le présent avis du défi est publié en vertu de l’appel de propositions (004) du programme Solutions innovatrices Canada (SIC) (EN578-20ISC4). Pour obtenir des renseignements généraux sur le SIC, les soumissionnaires peuvent visiter le site Web du SIC à cet effet. http://www.ic.gc.ca/eic/site/101.nsf/fra/accueil Veuillez consulter les documents de l’appel de propositions qui contiennent le processus de soumission d’une proposition. Programme Solutions innovatrices Canada Appel de propositions – 004 - Avis d’appel d’offres | Achats Canada https://achatscanada.canada.ca/fr/occasions-de-marche/appels-d-offres/cb-331-17030872 Étapes à suivre : Étape 1 : lisez ce défi Étape 2 : lisez l’appel de propositions : https://achatscanada.canada.ca/fr/occasions-de-marche/appels-d-offres/cb-331-17030872 Étape 3 :proposez votre solution ici : https://ised-isde.canada.ca/app/scr/iscwp/web/challenge/bcd74ad7-1732-4e9e-998c-24833e0443d6?lang=fr#!/challenge/details Titre du défi : Visibilité, traçabilité et gouvernance du processus décisionnel en matière d’intelligence artificielle (IA) PROMOTEUR DU DÉFI : Services partagés Canada (SPC) Mécanisme de financement : contrat VALEUR MAXIMALE DU MARCHÉ : De multiples contrats pourraient résulter de ce défi. Phase 2: • Le financement maximal disponible pour tout contrat de la phase 2 résultant de ce défi est de 2 000 000 $ CA, à l’exclusion des taxes applicables et des frais d’expédition, de déplacement et de subsistance, s’il y a lieu. • La durée maximale de tout contrat de la phase 2 résultant de ce défi est de 20 mois (à l’exclusion de la présentation du rapport définitif). • Estimation du nombre de contrats de la phase 2 : 1 Le fait de divulguer l'estimation du financement disponible n'engage aucunement le Canada à payer cette somme. Les décisions finales sur le nombre de bourses des Phases 2 seront prises par le Canada en fonction de facteurs tels que les résultats de l'évaluation, les priorités ministérielles et la disponibilité des fonds.Note : Les entreprises sélectionnées peuvent recevoir un contrat par phase, par défi. Déplacements : Aucun déplacement requis. Réunion de lancement : Les communications se feront par téléphone ou par vidéoconférence. Réunions d’étape : Toute réunion d’examen de l’avancement des travaux sera menée par téléphone ou par vidéoconférence. Réunion d’examen final : Les communications se feront par téléphone ou par vidéoconférence. Énoncé du problème Résumé de l’énoncé du défi Le Gouvernement du Canada (GC) s’engage à utiliser l’intelligence artificielle (IA) de manière responsable, conformément à sa stratégie et à ses principes directeurs en matière d’IA, voir les références indiquées dans le présent avis de défi. L’adoption généralisée des technologies d’IA a créé des occasions d’améliorer la prise de décisions et la prestation de services au sein du gouvernement du Canada. Pour favoriser l’utilisation responsable de l’IA, le gouvernement du Canada a établi une stratégie d’adoption et des principes directeurs. Pour soutenir l’adhésion et la mise en œuvre, le gouvernement du Canada souhaite mettre à l’essai des solutions qui offrent une visibilité sur les processus décisionnels de l’IA, améliorent la traçabilité des résultats de l’IA et garantissent que les modèles d’IA sont conformes aux lois canadiennes et aux normes et pratiques exemplaires internationales. Malgré la disponibilité de solutions de gouvernance de l’IA auprès d’entreprises canadiennes et de fournisseurs internationaux, les offres existantes nécessitent généralement un effort manuel important. Cet effort est particulièrement évident dans l’interprétation des exigences évolutives en matière de gouvernance de l’IA, leur application à des systèmes d’IA spécifiques, la mise à jour des contrôles et des évaluations, et la détermination de leurs répercussions sur l’ensemble de l’écosystème. Le défi vise à innover pour faire progresser les capacités de détermination et d’intégration des exigences évolutives en matière de gouvernance, de détermination de leur incidence potentielle sur les systèmes d’IA enregistrés, les contrôles, les évaluations et les preuves associés, et de soutenir une réévaluation en temps opportun, tout en maintenant le caractère explicable, la traçabilité, la vérifiabilité et la surveillance humaine. Détails Résultats essentiels La solution proposée doit : 1. Soutenir l’harmonisation continue des systèmes d’IA enregistrés avec les règlements, politiques, directives et autres exigences de gouvernance canadiens pertinents et être en mesure de déterminer les systèmes potentiellement touchés et d’indiquer quand une réévaluation est nécessaire. 2. Démontrer l’interopérabilité avec les systèmes d’entreprise, les plateformes d’intelligence artificielle (IA)/Apprentissage automatique (AA) et les solutions de gouvernance et la solution peut être intégrée avec une personnalisation minimale. 2A. Démontrer la capacité d’échanger des informations sur la gouvernance avec les systèmes d’entreprise et les outils de cycle de vie de l’IA/AA au moyen d’une interface de programmation d’application (API) basées sur des normes, de connecteurs et de mécanismes d’échange de données interopérables. Les renseignements sur la gouvernance peuvent comprendre les métadonnées des systèmes d’IA, les évaluations des risques, les constatations de conformité, les éléments probants de vérification, les résultats de la surveillance, les approbations et les comptes rendus de décisions.Par exemple : Ces renseignements sur la gouvernance comprennent, sans s’y limiter, des renseignements sur le système d’IA, la propriété, l’intention, l’état du déploiement, l’état du financement, les renseignements sur les clients, les objectifs du système, les évaluations, l’évaluation de l’incidence algorithmique, les exigences en matière de contrôle (guides). 2B. Démontrer comment l’information sur la gouvernance peut être recueillie, agrégée et maintenue dans plusieurs systèmes au moyen d’API, de connecteurs et de mécanismes d’échange de données. 2C. Tirer parti des normes ouvertes et des interfaces documentées pour réduire la dépendance à l’égard des technologies propriétaires permettant l’interopérabilité dans divers environnements d’entreprise. 3. Démontrer comment l’administration, le soutien et l’accès à l’information et aux données de gouvernance peuvent être restreints, surveillés et contrôlés conformément aux exigences du gouvernement du Canada. 3A. Permettre aux organisations de définir et de gérer les exigences en matière de résidence des données, de conservation, d’accès et de suppression des politiques et des informations sans intervention du fournisseur. 4. Permettre l’évaluation et la réévaluation des exigences, politiques, normes et directives applicables en matière de gouvernance de l’IA des systèmes d’IA enregistrés tout en soutenant la réévaluation lorsque les exigences de gouvernance et les cadres d’évaluation sont ajoutés, modifiés, remplacés ou retirés. La solution doit démontrer la capacité de traduire les exigences de gouvernance de l’IA en contrôles traçables, d’évaluer si les contrôles applicables ont été respectés et de relever les non-conformités. 4A. Permettre aux utilisateurs autorisés d’ajouter, de modifier, de modifier, de remplacer, ou de retirer des exigences de gouvernance et des cadres d’évaluation pour des systèmes ou des groupes d’IA individuels. Démontrer au moins une évaluation de la conformité par rapport à la Politique sur les services et le numérique, à la Directive sur la prise de décisions automatisée, à l’évaluation de l’incidence algorithmique, à la stratégie en matière d’IA et à l’éthique et aux responsabilités en matière d’IA. 4B. Démontrer la capacité d’ajouter, de modifier, de remplacer, de remplacer et de retirer des exigences de gouvernance, des contrôles et des critères d’évaluation, et de les attribuer à des systèmes d’IA individuels ou à des groupes de systèmes d’IA. tout en soutenant l’application de critères d’évaluation différents à différents systèmes d’IA en fonction de leur utilisation prévue, de leur profil de risque ou des exigences de gouvernance. Les offrants sont encouragés à prouver leur extensibilité à d’autres cadres et normes de gouvernance reconnus à l’échelle internationale, y compris l’ nstitut national des normes et de la technologie (NIST), l’Organisation internationale de normalisation (ISO) (en anglais seulement) et la Loi de l’UE (en anglais seulement). 4C. Générer des explications lisibles par l’homme des résultats des évaluations et des réévaluations. Chaque constatation doit indiquer l’exigence applicable, les éléments probants pris en compte, le résultat de l’évaluation et la cote de confiance ou une mesure de certitude. utilisateur. 4D. Recueillir, relier et conserver les artefacts d’assurance, y compris la cartographie des contrôles, les dossiers d’évaluation, les références aux preuves, les approbations, les exceptions, les attestations, les mesures correctives et les historiques d’audit. Le système doit déterminer si chaque artefact a été fourni par une personne autorisée [contrôle d’accès basé sur les rôles (RBAC)]. 4E. Fournir des résultats mesurables et faire une distinction claire entre les résultats lors de l’exécution d’évaluations de la conformité afin de déterminer si la conformité est respectée, partiellement atteinte, non atteinte, sans objet et impossible à déterminer. 5. Permettre aux examinateurs autorisés de valider, rejeter, modifier ou annoter les résultats et de conserver et de vérifier l’historique des décisions. 6. Soutenir l’évaluation et la réévaluation des risques associés aux données, aux modèles et aux extrants générés par l’IA et intégrer les informations qui en résultent dans les évaluations de la gouvernance et les activités d’assurance. 6A. Soutenir l’évaluation des risques liés aux données et des mesures de qualité pertinentes pour le système d’IA enregistré, y compris l’établissement de mesures de base et de seuils pour tenir un registre traçable des problèmes. 6B. Permettre aux organisations de définir, d’évaluer et de réévaluer les mesures de risque, de rendement et de qualité appropriées à un système d’IA enregistré. y compris des mesures, des seuils et des critères d’évaluation configurables pour maintenir un dossier traçable des résultats de l’évaluation. Résultats supplémentaires La solution proposée devrait : 1. Prendre en charge le déploiement dans des environnements sur site, en nuage privé et en nuage hébergé au Canada sans nécessiter de modifications architecturales importantes. 2. Fournir des fonctionnalités bilingues, y compris des interfaces utilisateur, de la documentation, des rapports et des flux de travail de gouvernance, en anglais et en français. 3. Soutenir plusieurs organisations, départements ou domaines au sein d’une plateforme partagée tout en permettant des politiques de gouvernance, des contrôles, des rapports et une surveillance indépendants pour chaque locataire. 4. Générez des rapports de gouvernance, des alertes et des notifications et intégrez-les aux systèmes de collaboration, de communication et de gestion des tickets/cas d’entreprise. Historique et contexte À mesure que Services partagés Canada (SPC) élargit l’utilisation des solutions d’IA, y compris l’IA générative et agentique, il y a un besoin croissant d’une approche cohérente, centralisée et évolutive de la gouvernance de l’IA. Les activités de gouvernance actuelles peuvent reposer sur des processus distincts, un suivi manuel et une documentation fragmentée, ce qui peut limiter la visibilité en temps réel des inventaires des systèmes d’IA, de la posture de risque, de l’état de conformité, de l’harmonisation des politiques et des preuves décisionnelles.