La GAO publica un marco innovador para la rendición de cuentas sobre la IA
La inteligencia artificial (IA) ya está teniendo un profundo impacto en el gobierno y la sociedad. A medida que la IA se generalice en nuestras vidas, a menudo se nos pedirá que confiemos en los sistemas de IA simplemente por sus atractivos beneficios.
Pero, ¿cómo sabemos que la IA está haciendo bien su trabajo?
El rápido ritmo de evolución de la IA hace necesario establecer un marco para verificar de forma independiente los sistemas de IA (incluso a medida que la tecnología sigue avanzando). La comunidad mundial de rendición de cuentas necesita un conjunto de herramientas para evaluar esta tecnología en constante cambio y, lo que es más importante, las organizaciones que construyen, compran y despliegan IA necesitan un marco para comprender cómo se evaluarán los sistemas de IA.
La Oficina de Rendición de Cuentas del Gobierno de EE.UU. (GAO), reconociendo la urgente necesidad de gobernanza de la IA, publicó recientemente un marco de rendición de cuentas de la IA diseñado para ayudar a garantizar la rendición de cuentas y el uso responsable de la IA en los programas y procesos gubernamentales.
“Inteligencia Artificial: An Accountability Framework for Federal Agencies and Other Entities” (Inteligencia Artificial: un marco de rendición de cuentas para las agencias federales y otras entidades) es un marco único, el primero de su clase, que
- es un plan práctico y práctico para evaluar y auditar los sistemas de IA;
- es lo bastante flexible para adaptarse a la evolución de las tecnologías;
- permite a los no expertos formular las preguntas adecuadas sobre los sistemas de IA; y
- establece un punto de referencia para evaluar la seguridad, la equidad y la eficacia de los sistemas de IA desplegados por los gobiernos .
Desarrollado mediante un enfoque verdaderamente colaborativo -que reúne a expertos de la administración federal, la industria y el sector sin ánimo de lucro-, el marco se organiza en torno a cuatro principios complementarios que abordan (1) la gobernanza, (2) los datos, (3) el rendimiento y (4) la supervisión, cada uno de los cuales incorpora prácticas clave del mundo real, incluidas preguntas que formular, procedimientos de auditoría y tipos de pruebas que recopilar.
El marco reconoce y abarca todo el ciclo de vida de los sistemas de IA (diseño-desarrollo-implantación-vigilancia). Algunos ejemplos de las cuestiones del ciclo de vida que aborda el marco, además de áreas como la representatividad, el sesgo y la seguridad de los datos, son los siguientes
- evaluar la expansión o el crecimiento del sistema de IA;
- trasladar sistemas de IA de un espacio de aplicación a otro;
- establecer procedimientos de supervisión humana;
- detectar la deriva del modelo; y
- establecer parámetros de rendimiento.
Este producto es el primero de muchos pasos en el viaje de la responsabilidad de la IA. Cuando la GAO cumple este año 100 años de servicio al público, este sólido marco de supervisión para los sistemas de IA de hoy y de mañana garantiza que la GAO esté preparada para los próximos 100 años.
Acceda al informe completo aquí.
Si desea más información sobre el marco de rendición de cuentas de la IA, póngase en contacto con
- Taka Ariga, Científico Jefe de Datos y Director de Ciencia, Evaluación Tecnológica y Análisis, arigat@gao.gov
- Timothy M. Persons, PhD, Científico Jefe y Director Gerente de Ciencia, Evaluación Tecnológica y Análisis, personst@gao.gov
- Stephen Sanford, Director Gerente de Planificación Estratégica y Enlace Externo y Director del Centro de Previsión Estratégica de la GAO, sanfords@gao.gov
