الدقة ليست مزيدًا من التفاصيل.بل غموضًا أقلّ فيما يؤثّر في القرار.
يصبح القرار التقني دقيقًا حين تتّضح مهمته وحدوده وأدلته وشروط جودته وصلاحياته بما يكفي لاختبارها، ولمعرفة متى يجب على النظام إحالة الأمر إلى غيره أو التعافي من الخطأ أو التوقّف.
استعرض اتفاق القبولحوّل ادّعاء الأداء إلى شروط قبول.
يحدّد الأداء النتيجة ومؤشرها والمؤشرات المقابلة وقاعدة القرار. وتحوّل الدقة هذه الصورة إلى متطلبات يمكن تصميمها واختبارها وتشغيلها ومراجعتها.
تتعامل معايير هندسة المتطلبات معها بوصفها معلومات تُنتَج عبر عمليات محدّدة طوال دورة حياة النظام أو الخدمة، لا مجرد قائمة بخصائص مطلوبة.1 وتوفّر نماذج الجودة كذلك خصائص متّسقة لتحديد مدى ملاءمة المنتج لغرضه وتقييمها.2
- ادّعاء الأداء
- تلبية الاحتياجات المعتادة بموثوقية، دون نقل جهد يمكن تجنّبه إلى آخرين.
- سؤال الدقة
- أي مهام وحالات ومصادر وشروط جودة واستثناءات تحدّد معنى «بموثوقية»؟
- نتيجة القبول
- قدرة محدّدة النطاق، لها أدلة ومسؤولية واضحة وشرط للمراجعة.
حدّد متطلبات القدرة على أساس تبعات الخطأ.
المثال افتراضي. وهو يوضّح كيف يمكن تحويل طلب مبهم، مثل «مساعد بالذكاء الاصطناعي لاستفسارات العملاء»، إلى اتفاق قبول. أمّا الضوابط والحدود الدقيقة فتحتاج إلى أدلة من السياق الفعلي.
مساعدة موظف الخدمة في تقديم معلومات معتادة عن المنتجات.
يسترجع النظام مواد معتمدة ويصوغ مسودّة رد. ولا يقرّر الاستحقاق، أو ينشئ التزامًا، أو يغلق شكوى ذات تبعات مهمة.
لا تبدأ إلا بعد جاهزية الأدلة ومسار التشغيل.
لا تكفي درجة واحدة لإثبات القبول. يجمع القرار بين أدلة المهمة وجودة النظام والمراجعة البشرية والتبعات.
- الأدلة
- حالات ممثّلة للواقع وحدود موثّقة
- حدّ القبول
- يُحدَّد وفق التبعات، ولا يُنسخ من معيار مقارن
- المراجِع
- دور محدّد تتوفّر له المعلومات والوقت والكفاءة والصلاحية
- التعافي من الخطأ
- مسارات التصحيح والتصعيد والاعتراض والتعامل مع الحوادث
على ماذا يُسمح للنظام أن يعتمد؟
السجلات المرجعية المعتمدة، وضوابط الوصول، وحداثة المعلومات، وأصلها، ومعالجة التعارض. ويمكن تعريف متطلبات جودة البيانات وتقييمها بصورة صريحة.3
ما الذي يجب أن يتمكّن الشخص من رؤيته وفعله؟
ميّز المادة المصدرية عن النص المولَّد، وأظهر الحالة وعدم اليقين والأخطاء، وأتِح التصحيح والتصعيد والتعافي.
ما الذي يغيّر الإذن بالتشغيل؟
غياب المصادر، أو انحراف السلوك، أو استخدامات جديدة، أو استثناءات متكرّرة، أو شكاوى وحوادث، أو أدلة على أن الضابط لم يعد فعّالًا.
يحدّد الأهمية الجوهرية والصلاحيات والقرارات التي لا ينبغي تفويضها.
يبني مجموعة الاختبار وخط الأساس وحدّ القبول والتقسيم التحليلي وسجل الأدلة.
يحدّد المصادر والواجهات ومسارات البيانات والوصول والسجلات والأمن والاستعادة.
يحدّد المهمة والتقييم وتوزيع الأخطاء والإحالة والمراقبة.
يحدّد متطلبات الفهم والتصحيح والتفسير والاعتراض وإمكانية الوصول.
تعني الدقة هنا وضوح القرارات والمتطلبات، ولا يُقصد بها الدقة الإحصائية، ولا تعني أن زيادة التفاصيل أفضل دائمًا.
حدّد ما يحدث عند الحدود، إلى جانب ما يقع داخلها.
تؤكّد معايير إدارة الذكاء الاصطناعي ومخاطره على السياق المؤسسي والأهداف ومعالجة المخاطر والتحسين المستمر.4 وتشمل إرشادات مخاطر الذكاء الاصطناعي كذلك المؤسسات التي تطوّر منتجات وخدمات مدعومة به أو تنشرها أو تستخدمها.5 لذلك تشمل الدقة منظومة التشغيل المحيطة بالنموذج.
المهمة المقصودة
حدّد المستخدم والفعل والمصدر والمخرج والسياق. فعبارة «الإجابة عن الاستفسارات» واسعة جدًا؛ الاسترجاع والصياغة والتوجيه واتخاذ القرار مهام مختلفة.
اختبر العمل المقترح فعلًا.الاستخدام المستبعد
حدّد الحالات والقرارات والبيانات والتبعات التي لا يُصرَّح باستخدام القدرة فيها. ويجب أن يكون الاستبعاد قابلًا للإنفاذ، لا مجرد نص مكتوب.
امنع توسّع النطاق دون انتباه.الإحالة والتصعيد
قد يكون التصعيد المناسب هو النتيجة الصحيحة. ميّز التصعيد الضروري عن الإخفاق الممكن تجنّبه، وحدّد من يتسلّم الحالة.
انخفاض معدل التصعيد ليس أفضل بالضرورة.التصحيح وسبل التظلّم
حدّد كيف تُكتشف الأخطاء وتُسجَّل وتُصحَّح ويُبلَّغ عنها، وكيف يستطيع المتأثّر الاعتراض على نتيجة ذات تبعات مهمة أو طلب مراجعتها.
التعافي من الخطأ شرط للقبول.«سيراجعه شخص» لا تكفي لتشكيل ضابط فعّال.
تدعو إرشادات NIST إلى تحديد الخصائص والقدرات التي تتطلّب إشرافًا بشريًا، وتوثيق كيفية توفير هذا الإشراف.6 وتوصي إرشادات الجهة البريطانية المنظمة لحماية المعلومات كذلك بإجراءات مراجعة موحّدة ومسؤولية قابلة للتتبّع.7
يجب أن يستطيع المراجِع تغيير النتيجة، لا أن يقتصر دوره على الحضور.
لا تشكّل درجة ثقة النموذج وحدها حدًّا تشغيليًا موثوقًا. ويجب تحديد مسار المراجعة وفق التبعات والمعلومات والصلاحيات.
رؤية الأساس
يمكن تمييز المصدر ذي الصلة والحالة والحدود والمحتوى المولَّد.
فهم القرار
يمتلك المراجِع معرفة بالمجال ويفهم الحدود المعروفة للنظام.
توفّر وقت للتدخّل
يتيح عبء العمل والواجهة والتوقيت مراجعة فعلية، لا موافقة شكلية.
تجاوز النتيجة ومعالجة الخطأ
يستطيع الشخص التعديل والرفض والتصعيد وبدء التصحيح أو مسار التظلّم.
القبول متعدّد الأبعاد.
نادرًا ما تكفي صحة النتائج وحدها. تعتمد الخصائص ذات الصلة على المنتج والمهمة والتبعات. وفي الذكاء الاصطناعي، قد يوسّع تقييم الأثر نطاق الفحص ليشمل التأثيرات في الأفراد والمجتمع.8
الملاءمة والموثوقية والأمن
قد تفرض الملاءمة الوظيفية والموثوقية وكفاءة الأداء والأمن وقابلية الصيانة والتوافق متطلبات خاصة بكل منها.
مستمدّة انتقائيًا من ISO/IEC 25010؛ ولا تنطبق جميع الخصائص بالقدر نفسه.سهولة الاستخدام وإمكانية الوصول
يجب أن تكون المدخلات والأخطاء ورسائل الحالة ومسارات التعافي مفهومة وقابلة للاستخدام. وتقدّم WCAG 2.2 معايير محدّدة لإمكانية الوصول على الويب حيث تنطبق.9
تتطلّب المطابقة اختبار الواجهة الفعلية.الأثر والشفافية وسبل التظلّم
تعتمد الالتزامات المنطبقة على الدور والاستخدام والقطاع والولاية القضائية. وقد تتطلّب الاستخدامات عالية المخاطر توثيق إدارة المخاطر والإشراف البشري وخصائص معلنة لصحة النتائج أو المتانة.10
يجب تحديد التصنيف القانوني وفق التطبيق الفعلي.تمنح الدقةُ القرارَ سببًا للمضيّ، وسببًا للتغيير.
- المضيّ
- تدعم المهمة والأدلة ومسار التشغيل والتبعات الاستخدام المحدّد.
- التعديل
- لا تتّسق المتطلبات أو الواجهة أو المصدر أو حدّ القبول أو عملية المراجعة مع الأدلة.
- التقييد
- تبقى القدرة مفيدة فقط ضمن نطاق أضيق من الحالات أو المستخدمين أو البيانات أو الظروف.
- الإيقاف
- لم تعد المنفعة تبرّر المخاطر أو العبء أو الإخفاق غير المعالج.
هذه الصفحة إطار للفحص، وليست مشورة قانونية أو حكمًا بالامتثال. تنطبق التشريعات، بما فيها قانون الذكاء الاصطناعي الأوروبي، وواجبات حماية البيانات والقواعد القطاعية وفق النظام الفعلي والدور والأشخاص المتأثّرين والولاية القضائية ومواعيد النفاذ.
اجعل القدرة واضحة بما يكفي لممارستها، ومرنة بما يكفي لتحسينها.
أصبح اتفاق القبول يحدّد المهمة والحدود والمصادر وشروط الجودة والإشراف ومسار المراجعة. ويمكن للممارسة فحص ما إذا كانت هذه المتطلبات تصمد في العمل اليومي وتغيّر الظروف والخبرة المشتركة.
- الإذن
- ما الذي يُسمح للقدرة أن تفعله، ولمن؟
- الإثبات
- ما الأدلة وشروط الجودة التي تسمح بالتشغيل؟
- مسار العودة
- متى تنتقل الصلاحية، أو يتغيّر التصميم، أو يتوقّف التشغيل؟
المصادر والملاحظات
مثال المساعد بالذكاء الاصطناعي وبنية القبول طرحان تحريريّان. تدعم المعايير والإرشادات المؤسسية ممارسات محدّدة، ولا يثبت أي منها نموذج الصفحة كاملًا أو يحدّد الامتثال لتطبيق بعينه.
- ISO/IEC/IEEE 29148:2018 — Requirements engineering. يحدّد العمليات وعناصر المعلومات للأنشطة المرتبطة بالمتطلبات عبر الأنظمة والبرمجيات والخدمات.↩
- ISO/IEC 25010:2023 — Product quality model. يعرّف نموذج جودة لمنتجات تقنية المعلومات والاتصالات والبرمجيات. ويجب اختيار الخصائص بحسب السياق الفعلي.↩
- ISO/IEC 25012:2008 — Data quality model. يدعم تعريف متطلبات جودة البيانات المنظّمة ومقاييسها وتقييمها.↩
- ISO/IEC 42001:2023 — AI management systems. يحدّد متطلبات إنشاء نظام إدارة للذكاء الاصطناعي والمحافظة عليه وتحسينه باستمرار في سياقه المؤسسي.↩
- ISO/IEC 23894:2023 — AI risk management. إرشادات للمؤسسات التي تطوّر أو تنتج أو تنشر أو تستخدم منتجات وأنظمة وخدمات مدعومة بالذكاء الاصطناعي.↩
- NIST AI RMF Playbook — Map. تشمل الإجراءات المقترحة تحديد القدرات التي تتطلّب إشرافًا بشريًا وتدريب الأطراف المعنية. والدليل توجيه طوعي، وليس قائمة تحقّق أو شهادة اعتماد.↩
- UK ICO — Human review guidance. إرشادات مؤسسية بشأن توحيد إجراءات مراجعة مخرجات الذكاء الاصطناعي في سياق حماية البيانات؛ ويتوقّف انطباقها على المعالجة والولاية القضائية.↩
- ISO/IEC 42005:2025 — AI system impact assessment. يتناول الآثار المجتمعية والبشرية، ويكمّل معايير إدارة الذكاء الاصطناعي ومخاطره.↩
- W3C, Web Content Accessibility Guidelines 2.2. متطلبات معيارية لإمكانية الوصول على الويب، تشمل تحديد أخطاء الإدخال وإبلاغ الحالة؛ ويستلزم إثبات المطابقة تقييم التطبيق الفعلي.↩
- Regulation (EU) 2024/1689 — Artificial Intelligence Act. يتضمّن النص القانوني الرسمي متطلبات لبعض أنظمة الذكاء الاصطناعي عالية المخاطر، تتعلّق بإدارة المخاطر والإشراف البشري وصحة النتائج والمتانة والأمن السيبراني. ويحتاج النطاق والدور والتصنيف ومواعيد التطبيق إلى تقييم قانوني لكل حالة.↩