للذكاء الاصطناعي (AI) بالفعل تأثير عميق على الحكومة والمجتمع. نظرًا لأن الذكاء الاصطناعي يزداد انتشارًا في حياتنا ، فغالبًا ما يُطلب منا الوثوق بأنظمة الذكاء الاصطناعي لمجرد فوائدها الجذابة.
لكن كيف نعرف أن الذكاء الاصطناعي يؤدي وظيفته بشكل مناسب؟
تجعل وتيرة التطور السريع للذكاء الاصطناعي من الضروري إنشاء إطار للتحقق بشكل مستقل من أنظمة الذكاء الاصطناعي (حتى مع استمرار تقدم التكنولوجيا). يحتاج مجتمع المساءلة العالمي إلى مجموعة أدوات لتقييم هذه التكنولوجيا المتغيرة باستمرار ، والأهم من ذلك ، تحتاج المنظمات التي تبني وتشترى وتنشر الذكاء الاصطناعي إلى إطار عمل لفهم كيفية تقييم أنظمة الذكاء الاصطناعي.
قام مكتب محاسبة الحكومة الأمريكية (GAO) ، بإدراك الحاجة الملحة لحوكمة الذكاء الاصطناعي ، بنشر إطار مساءلة الذكاء الاصطناعي المصمم للمساعدة في ضمان المساءلة والاستخدام المسؤول للذكاء الاصطناعي في البرامج والعمليات الحكومية.
“الذكاء الاصطناعي: إطار مساءلة الوكالات الفيدرالية والكيانات الأخرى” هو إطار فريد من نوعه ،
- بمثابة مخطط عملي وقابل للتنفيذ لتقييم وتدقيق أنظمة الذكاء الاصطناعي ؛
- مرنة بما يكفي للتكيف مع التقنيات المتطورة ؛
- تمكن غير الخبراء من طرح الأسئلة الصحيحة حول أنظمة الذكاء الاصطناعي ؛ و
- يضع معيارًا لتقييم السلامة والإنصاف والفعالية في أنظمة الذكاء الاصطناعي التي تنشرها الحكومة .
تم تطويره باستخدام نهج تعاوني حقيقي – يوحد الخبراء عبر الحكومة الفيدرالية ، والصناعة ، والقطاعات غير الربحية – يتم تنظيم الإطار حول أربعة مبادئ تكميلية تتناول (1) الحوكمة ، (2) البيانات ، (3) الأداء ، و (4) المراقبة ، كل منها يتضمن ممارسات أساسية في العالم الحقيقي ، بما في ذلك الأسئلة التي يجب طرحها وإجراءات التدقيق وأنواع الأدلة التي يجب جمعها.
يقر إطار العمل ويغطي دورة الحياة الكاملة لأنظمة الذكاء الاصطناعي (التصميم – التطوير – النشر – المراقبة). بعض الأمثلة على مشكلات دورة الحياة التي يعالجها إطار العمل ، بالإضافة إلى مجالات مثل تمثيل البيانات ، والتحيز ، والأمان ، هي
- تقييم توسع أو نمو نظام الذكاء الاصطناعي ؛
- نقل أنظمة الذكاء الاصطناعي من مساحة تطبيق إلى أخرى ؛
- وضع إجراءات للإشراف البشري ؛
- كشف الانجراف النموذجي و
- إنشاء مقاييس الأداء.
هذا المنتج هو الخطوة الأولى من بين العديد من الخطوات في رحلة المساءلة الخاصة بالذكاء الاصطناعي. نظرًا لأن مكتب المساءلة الحكومي يمثل 100 عام من الخدمة للجمهور هذا العام ، فإن إطار الرقابة القوي هذا لأنظمة الذكاء الاصطناعي اليوم وغدًا يضمن جاهزية GAO لمدة 100 عام القادمة.
الوصول إلى التقرير الكامل هنا .
لمزيد من المعلومات حول إطار عمل الذكاء الاصطناعي للمساءلة ، اتصل بـ:
- تاكا أريجا ، كبير علماء البيانات ومدير العلوم وتقييم التكنولوجيا والتحليلات ، arigat@gao.gov
- تيموثي م. بيرسونز ، دكتوراه ، كبير العلماء والمدير العام للعلوم وتقييم التكنولوجيا والتحليلات ، personst@gao.gov
- ستيفن سانفورد ، المدير العام للتخطيط الاستراتيجي والاتصال الخارجي ، ومدير مركز GAO للاستشراف الاستراتيجي ، sanfords@gao.gov
