{"id":16764,"date":"2021-04-30T14:05:57","date_gmt":"2021-04-30T18:05:57","guid":{"rendered":"https:\/\/intosai.nclud.com\/journal-entry\/developing-an-audit-framework-for-algorithms\/"},"modified":"2023-05-08T16:07:17","modified_gmt":"2023-05-08T20:07:17","slug":"developing-an-audit-framework-for-algorithms","status":"publish","type":"journal-entry","link":"https:\/\/intosai.nclud.com\/es\/journal-entry\/developing-an-audit-framework-for-algorithms\/","title":{"rendered":"Desarrollo de un marco de auditor\u00eda para algoritmos"},"content":{"rendered":"\n

por Esther Meijer-van Leijsen PhD, Justin Verhulst MSc, Pieter Oosterwijk PhD y Miranda Pirkovski MSc RA EMITA, Tribunal de Cuentas de los Pa\u00edses Bajos<\/em><\/p>\n\n\n\n

El aumento constante del uso de algoritmos en el sector p\u00fablico neerland\u00e9s -conjuntos de reglas e instrucciones que sigue un ordenador para resolver problemas o responder preguntas- ha generado la correspondiente demanda de supervisi\u00f3n. El debate p\u00fablico, la cobertura medi\u00e1tica y las discusiones en el Parlamento se han intensificado, especialmente despu\u00e9s de que un tribunal de distrito de La Haya diera la raz\u00f3n a varias organizaciones no gubernamentales (ONG) al considerar que SyRI (un instrumento de detecci\u00f3n del fraude basado en algoritmos) infring\u00eda disposiciones de la legislaci\u00f3n europea.<\/p>\n\n\n\n

El creciente uso de algoritmos para la gesti\u00f3n de operaciones y la prestaci\u00f3n de servicios en la Administraci\u00f3n plantea retos a las Entidades Fiscalizadoras Superiores (EFS) de todo el mundo. Los algoritmos pueden hacer opacas, o una “caja negra”, las operaciones gubernamentales. Con unas directrices limitadas, \u00bfc\u00f3mo pueden las EFS evaluar si los gobiernos utilizan los algoritmos de forma responsable y legal?<\/p>\n\n\n\n

Con su informe<\/a> de enero de 2021 “Understanding Algorithms”, el Tribunal de Cuentas de los Pa\u00edses Bajos (NCA) hizo una contribuci\u00f3n pr\u00e1ctica al debate sobre las oportunidades y los riesgos asociados al uso de algoritmos por parte de la Administraci\u00f3n. El informe: 1) proporcionaron informaci\u00f3n sobre el grado de conocimiento y control de las administraciones p\u00fablicas neerlandesas sobre el uso de algoritmos en sus departamentos; 2) present\u00f3 un marco de auditor\u00eda que puede utilizarse para evaluar riesgos concretos; y 3) comprob\u00f3 la utilidad del marco de auditor\u00eda.<\/p>\n\n\n\n

El objetivo \u00faltimo del proyecto de la NCA era sentar las bases de un uso responsable de los algoritmos por parte de las administraciones p\u00fablicas. Este art\u00edculo describe las conclusiones y el impacto del informe.<\/p>\n\n\n\n

Algoritmos m\u00e1s sencillos actualmente en uso<\/strong><\/h2>\n\n\n\n

NCA descubri\u00f3 que los algoritmos predictivos y prescriptivos que el gobierno holand\u00e9s utiliza actualmente para tomar decisiones que afectan a ciudadanos y empresas son relativamente sencillos. La Administraci\u00f3n utiliza estos algoritmos para gestionar operaciones y prestar servicios, como el env\u00edo masivo de correo automatizado y la selecci\u00f3n inicial de solicitudes de prestaciones. Algunos de los algoritmos, sin embargo, son m\u00e1s innovadores e implican inteligencia artificial. A petici\u00f3n suya, los ministerios y las organizaciones de ejecuci\u00f3n, como la Agencia del Seguro de los Trabajadores y el Banco de la Seguridad Social, facilitaron a la NCA docenas de algoritmos para su auditor\u00eda. Entre ellos, NCA no encontr\u00f3 ning\u00fan algoritmo totalmente autodidacta, es decir, que aplique la pol\u00edtica sin intervenci\u00f3n humana.<\/p>\n\n\n\n

Uno de los retos a los que se enfrent\u00f3 la NCA al realizar esta auditor\u00eda fue definir claramente los t\u00e9rminos y las definiciones. T\u00e9rminos como “caja negra”, “sesgo” e incluso “algoritmo” pueden ser definidos de formas sustancialmente diferentes por personas con formaci\u00f3n en derecho, gobernanza, tecnolog\u00eda de la informaci\u00f3n (TI) o ciencia de datos. La NCA no quiso ahondar demasiado en debates acad\u00e9micos sobre definiciones. Sin embargo, era importante tener una idea clara y concreta de lo que se estaba auditando y de cu\u00e1les eran las normas de calidad. Para ello, la NCA organiz\u00f3 sesiones de intercambio de ideas en las que profesionales de todos los niveles de la Administraci\u00f3n, as\u00ed como del mundo acad\u00e9mico y las organizaciones de auditor\u00eda, llegaron a un entendimiento com\u00fan de los t\u00e9rminos.<\/p>\n\n\n\n

Marco de auditor\u00eda de algoritmos<\/strong><\/h2>\n\n\n\n

La NCA ha desarrollado un marco de auditor\u00eda que las organizaciones gubernamentales y del sector privado pueden utilizar para evaluar si sus algoritmos cumplen los criterios de calidad especificados y si se han identificado y mitigado adecuadamente los riesgos que conllevan. La NCA pretende que el marco de auditor\u00eda sirva como herramienta pr\u00e1ctica y punto de partida para los retos a los que se enfrentan los auditores a la hora de evaluar algoritmos. El marco se describe en el informe y est\u00e1 disponible en formato Excel<\/a>, lo que permite a los usuarios filtrar las preguntas relacionadas con categor\u00edas y principios espec\u00edficos, como la equidad y la rendici\u00f3n de cuentas.<\/p>\n\n\n\n

Para desarrollar el marco, la NCA incorpor\u00f3 aportaciones de expertos, as\u00ed como de otros marcos de auditor\u00eda. Por ejemplo, el Reglamento General de Protecci\u00f3n de Datos (RGPD) -una ley de la Uni\u00f3n Europea (UE)- ya proporciona un marco para gestionar los datos personales sensibles, y tambi\u00e9n existen marcos de gobernanza y de control general de TI (CGCTI). El marco eval\u00faa un algoritmo en funci\u00f3n de los siguientes “pilares”:<\/p>\n\n\n\n