رجوع
حوكمة الذكاء الاصطناعي · ISO/IEC 42001:2023

حوكم الذكاء الاصطناعي بهدف واضح. وأظهر كيف تعمل حوكمته.

يوفّر ISO/IEC 42001 للمؤسسات إطارًا لنظام إدارة يدعم تطوير الذكاء الاصطناعي وتقديمه واستخدامه بمسؤولية. وهو يربط الطموح بتحديد المسؤوليات وقرارات المخاطر والضوابط التشغيلية والأدلة.

التوجّهالسياسة والأهداف والمساءلة
الأثرالأفراد والمجموعات والسياق المؤسسي
الضبطمعالجة المخاطر وممارسات دورة الحياة
الأدلةالمراقبة والمراجعة والتحسين
AIMS
نُشر في ديسمبر 2023الإصدار الأول من ISO/IEC 42001
لمقدّمي الذكاء الاصطناعي ومستخدميهقابل للتطبيق في مختلف القطاعات وأحجام المؤسسات
معيار لنظام إدارة يمكن الحصول على شهادة مطابقة لهقد تقيّم جهة مستقلة لمنح الشهادات نظام الإدارة المطبّق
أهمية المعيار

يتغيّر الذكاء الاصطناعي بسرعة. فلا يمكن أن تبقى المساءلة غير منظّمة.

قد تخلق مبادرة للذكاء الاصطناعي قيمة، وتثير في الوقت نفسه أسئلة عن المسؤولية والشفافية والبيانات والموثوقية والأثر. يساعد ISO/IEC 42001 المؤسسة على إدارة هذه الأسئلة ضمن نظام مترابط، بدلًا من فحوص تقنية منفصلة.

01 · المسؤولية

أظهر من يتولّى المسؤولية

اربط توجّه القيادة بالأدوار المسندة والسياسات والقرارات ومسارات التصعيد.

02 · المخاطر والفرص

اختر بوعي

حدّد أين قد يحقّق الذكاء الاصطناعي منفعة أو يسبّب ضررًا، ثم طبّق ضوابط تتناسب مع السياق.

03 · الثقة

ادعم ما تقوله بالأدلة

ادمج قابلية التتبّع والمراجعة والتحسين في كيفية اختيار أنظمة الذكاء الاصطناعي وتشغيلها.

نظام إدارة

من النية إلى ممارسة قابلة للتكرار.

ليس ISO/IEC 42001 تقييمًا تقنيًا يُجرى مرة واحدة. فهو يطلب من المؤسسة إنشاء نظام لإدارة الذكاء الاصطناعي وتشغيله وتقييمه وتحسينه باستمرار.

1

حدّد التوجّه

حدّد السياق والنطاق والسياسة والأهداف والمسؤوليات وتوقّعات الحوكمة.

2

شغّل بمسؤولية

طبّق عمليات متناسبة عبر اختيار الذكاء الاصطناعي وتصميمه واقتنائه ونشره واستخدامه.

3

قيّم الأدلة

راقب الأداء، وراجع الآثار، ودقّق نظام الإدارة، واتخذ إجراءات بناءً على النتائج.

4

حسّن باستمرار

عالج نقاط الضعف، وتعلّم من التغيّر، وحافظ على ملاءمة نظام الإدارة.

ما الذي يربطه المعيار؟

ست قدرات ينبغي أن تعمل معًا.

تعتمد الضوابط المحدّدة على المؤسسة وسياق استخدامها للذكاء الاصطناعي. وتبدأ الجاهزية بربط هذه القدرات وتحديد الأدلة الموثوقة التي ينبغي توافرها.

الحوكمة

السياسة والمساءلة

من يصرّح باستخدام الذكاء الاصطناعي، ومن يتحمّل مسؤولية النتائج، وكيف تُصعّد القرارات.

الأثر

الأفراد والأطراف المتأثرة

كيفية مراعاة الاستخدام المقصود والعواقب المتوقّعة وأصحاب المصلحة المعنيين.

المخاطر

التقييم والمعالجة

كيفية تحديد المخاطر والفرص الخاصة بالذكاء الاصطناعي وترتيب أولوياتها والتعامل معها.

دورة الحياة

الضبط التشغيلي

كيفية مواكبة المتطلبات لأنظمة الذكاء الاصطناعي خلال الاقتناء والتطوير والنشر والتغيير.

الموارد

البيانات والأفراد والمورّدون

كيفية حوكمة الكفاءة والمعلومات والتقنية والاعتماد على الأطراف الخارجية.

التوكيد

المراقبة والتحسين

كيف يتحوّل الأداء والحوادث والتدقيق ومراجعة الإدارة والإجراءات التصحيحية إلى أدلة.

الجهات المعنية

حوكمة الذكاء الاصطناعي عمل مؤسسي.

يهمّ المعيار المؤسسات التي تطوّر منتجات أو خدمات قائمة على الذكاء الاصطناعي أو تقدّمها أو تستخدمها. وهو يستدعي اهتمامًا منسّقًا يتجاوز فريق التقنية.

المشاركون عادةً

  • القيادات التنفيذية ومسؤولو الحوكمة
  • المسؤولون عن الذكاء الاصطناعي والبيانات والمنتجات والتقنية
  • فرق المخاطر والامتثال والشؤون القانونية وأمن المعلومات
  • وظائف المشتريات وإدارة المورّدين
  • المختصون في التدقيق الداخلي والجودة والتوكيد
أسئلة الجاهزية

هل تستطيع مؤسستك الإجابة عنها بوضوح؟

01ما أنظمة الذكاء الاصطناعي الداخلة في النطاق، ومن يتحمّل المساءلة عن كل منها؟
02كيف يُقيّم الاستخدام المقصود والأطراف المتأثرة والآثار المحتملة؟
03كيف تُرتّب أولويات مخاطر الذكاء الاصطناعي وفرصه وتُعالَج؟
04ما الضوابط التي تحكم البيانات والمورّدين والكفاءة وتغيير الأنظمة؟
05ما الأدلة التي تُظهر أن الضوابط تعمل على النحو المقصود؟
06كيف تقود الحوادث وعمليات التدقيق ومراجعات الأداء إلى التحسين؟
وضوح بشأن شهادة المطابقة

ما الذي تعنيه شهادة ISO/IEC 42001، وما الذي لا تعنيه؟

يمكن أن توفّر شهادة المطابقة تأكيدًا مستقلًا بأن نظام إدارة الذكاء الاصطناعي في المؤسسة قد قُيّم وفق متطلبات ISO/IEC 42001. وتضع منظمة ISO المعايير؛ ولا تمنح المؤسسات شهادات المطابقة.

ما يمكن أن تُظهره الشهادة

  • نظام منظّم لحوكمة الذكاء الاصطناعي وإدارته
  • مسؤوليات وعمليات وأدلة محدّدة
  • الالتزام بالمراقبة والتحسين المستمر

ما لا تضمنه الشهادة تلقائيًا

  • أن كل مخرجات الذكاء الاصطناعي صحيحة أو خالية من المخاطر
  • أن منتجًا ما معتمد من منظمة ISO
  • الامتثال لجميع القوانين أو العقود الواجبة التطبيق

المرجع الأساسي: ISO/IEC 42001:2023 — نظم إدارة الذكاء الاصطناعي. ينبغي الرجوع إلى الإصدار المعتمد للاطّلاع على متطلبات المعيار.

ابنِ نقطة انطلاق موثوقة

حوّل حوكمة الذكاء الاصطناعي إلى نظام عمل.

ابدأ بالنطاق والاستخدامات الحالية للذكاء الاصطناعي والمسؤولية عن القرارات والأدلة المتاحة بالفعل. عندها تصبح الجاهزية تسلسلًا عمليًا للأولويات بدلًا من تمرين عام في الامتثال.

AI CERTs® Authorized Training Partner