{"id":16762,"date":"2021-04-30T14:05:57","date_gmt":"2021-04-30T18:05:57","guid":{"rendered":"https:\/\/intosai.nclud.com\/journal-entry\/developing-an-audit-framework-for-algorithms\/"},"modified":"2023-05-08T16:07:08","modified_gmt":"2023-05-08T20:07:08","slug":"developing-an-audit-framework-for-algorithms","status":"publish","type":"journal-entry","link":"https:\/\/intosai.nclud.com\/fr\/journal-entry\/developing-an-audit-framework-for-algorithms\/","title":{"rendered":"D\u00e9veloppement d’un cadre d’audit pour les algorithmes"},"content":{"rendered":"\n

par Esther Meijer-van Leijsen PhD, Justin Verhulst MSc, Pieter Oosterwijk PhD, et Miranda Pirkovski MSc RA EMITA, Cour des comptes des Pays-Bas<\/em><\/p>\n\n\n\n

L’augmentation constante de l’utilisation d’algorithmes – ensembles de r\u00e8gles et d’instructions qu’un ordinateur suit pour r\u00e9soudre des probl\u00e8mes ou r\u00e9pondre \u00e0 des questions – par le secteur public n\u00e9erlandais a g\u00e9n\u00e9r\u00e9 une demande correspondante de contr\u00f4le. Le d\u00e9bat public, la couverture m\u00e9diatique et les discussions au Parlement se sont intensifi\u00e9s, notamment apr\u00e8s qu’un tribunal de district de La Haye a donn\u00e9 raison \u00e0 plusieurs organisations non gouvernementales (ONG) qui estimaient que SyRI (un instrument de d\u00e9tection des fraudes bas\u00e9 sur des algorithmes) \u00e9tait contraire aux dispositions de la l\u00e9gislation europ\u00e9enne.<\/p>\n\n\n\n

L’utilisation croissante d’algorithmes pour g\u00e9rer les op\u00e9rations et fournir des services au sein de l’administration pose des d\u00e9fis aux institutions sup\u00e9rieures de contr\u00f4le (ISC) du monde entier. Les algorithmes peuvent rendre les op\u00e9rations gouvernementales opaques, ou en faire une “bo\u00eete noire”. Les directives disponibles \u00e9tant limit\u00e9es, comment les ISC peuvent-elles \u00e9valuer si les gouvernements utilisent les algorithmes de mani\u00e8re responsable et l\u00e9gale ?<\/p>\n\n\n\n

Avec son rapport de<\/a> janvier 2021 intitul\u00e9 “Comprendre les algorithmes”, la Cour des comptes des Pays-Bas (NCA) a apport\u00e9 une contribution pratique au d\u00e9bat sur les opportunit\u00e9s et les risques li\u00e9s \u00e0 l’utilisation des algorithmes par les pouvoirs publics. Le rapport : 1) a permis de comprendre dans quelle mesure les entit\u00e9s gouvernementales n\u00e9erlandaises \u00e9taient conscientes et ma\u00eetrisaient l’utilisation des algorithmes au sein de leurs services ; 2) a pr\u00e9sent\u00e9 un cadre d’audit qui peut \u00eatre utilis\u00e9 pour \u00e9valuer les risques concrets ; et 3) a test\u00e9 l’utilit\u00e9 du cadre d’audit.<\/p>\n\n\n\n

L’objectif ultime du projet de la NCA \u00e9tait de jeter les bases d’une utilisation responsable des algorithmes par les pouvoirs publics. Cet article d\u00e9crit les conclusions et l’impact du rapport.<\/p>\n\n\n\n

Algorithmes les plus simples actuellement utilis\u00e9s<\/strong><\/h2>\n\n\n\n

La NCA a constat\u00e9 que les algorithmes pr\u00e9dictifs et prescriptifs que le gouvernement n\u00e9erlandais utilise actuellement pour prendre des d\u00e9cisions concernant les citoyens et les entreprises sont relativement simples. Le gouvernement utilise ces algorithmes pour g\u00e9rer les op\u00e9rations et fournir des services, tels que les envois automatis\u00e9s de masse et la s\u00e9lection initiale des demandes de prestations. Certains algorithmes sont toutefois plus innovants et font appel \u00e0 l’intelligence artificielle. Sur demande, les minist\u00e8res et les organismes de mise en \u0153uvre, tels que l’Agence d’assurance des employ\u00e9s et la Banque d’assurance sociale, ont fourni \u00e0 l’ANC des dizaines d’algorithmes pour son audit. Parmi ceux-ci, l’ANC n’a pas trouv\u00e9 d’algorithmes \u00e0 auto-apprentissage complet, c’est-\u00e0-dire des algorithmes qui mettent en \u0153uvre une politique sans intervention humaine.<\/p>\n\n\n\n

L’une des difficult\u00e9s rencontr\u00e9es par l’ANC dans la conduite de cet audit a \u00e9t\u00e9 de d\u00e9finir clairement les termes et les d\u00e9finitions. Des termes tels que “bo\u00eete noire”, “biais” et m\u00eame “algorithme” peuvent \u00eatre d\u00e9finis de mani\u00e8res tr\u00e8s diff\u00e9rentes par des personnes ayant une formation en droit, en gouvernance, en technologies de l’information (TI) ou en science des donn\u00e9es. L’ANC n’a pas souhait\u00e9 entrer trop profond\u00e9ment dans les d\u00e9bats acad\u00e9miques sur les d\u00e9finitions. Cependant, il est important d’avoir une compr\u00e9hension claire et concr\u00e8te de ce qui est contr\u00f4l\u00e9 et des normes de qualit\u00e9. \u00c0 cette fin, la NCA a organis\u00e9 des s\u00e9ances de r\u00e9flexion au cours desquelles des professionnels de tous les niveaux de gouvernement, ainsi que des universitaires et des organisations d’audit, sont parvenus \u00e0 une compr\u00e9hension commune des termes utilis\u00e9s.<\/p>\n\n\n\n

Cadre d’audit pour les algorithmes<\/strong><\/h2>\n\n\n\n

La NCA a mis au point un cadre d’audit que les organismes publics et priv\u00e9s peuvent utiliser pour d\u00e9terminer si leurs algorithmes r\u00e9pondent \u00e0 des crit\u00e8res de qualit\u00e9 sp\u00e9cifiques et si les risques qui en d\u00e9coulent ont \u00e9t\u00e9 correctement identifi\u00e9s et att\u00e9nu\u00e9s. L’ANC souhaite que le cadre d’audit serve d’outil pratique et de point de d\u00e9part pour les d\u00e9fis auxquels les auditeurs sont confront\u00e9s lors de l’\u00e9valuation des algorithmes. Le cadre est d\u00e9crit dans le rapport et disponible en format Excel<\/a>, ce qui permet aux utilisateurs de filtrer les questions relatives \u00e0 des cat\u00e9gories et principes sp\u00e9cifiques, tels que l’\u00e9quit\u00e9 et la responsabilit\u00e9.<\/p>\n\n\n\n

Pour \u00e9laborer ce cadre, la NCA a tenu compte des contributions d’experts et d’autres cadres d’audit. Par exemple, le r\u00e8glement g\u00e9n\u00e9ral sur la protection des donn\u00e9es (RGPD) – une loi de l’Union europ\u00e9enne (UE) – fournit d\u00e9j\u00e0 un cadre pour traiter les donn\u00e9es personnelles sensibles, et des cadres de gouvernance et de contr\u00f4le g\u00e9n\u00e9ral des technologies de l’information (CGTI) sont \u00e9galement disponibles. Le cadre \u00e9value un algorithme sur les “piliers” suivants :<\/p>\n\n\n\n