الثقة بنية تحتية

التحقق من الهوية يثبت صاحب الطلب، والتفويض يحدد ما يستطيع فعله، لكن الأنظمة الذكية تضيف سؤالًا ثالثًا: أي فعل اختاره النظام داخل النطاق؟ قد تكون الجلسة موثقة والطرف معروفًا والأداة مصرحًا بها، ثم يختار النظام الإرسال بدل المراجعة لأن السياق أو الاسترجاع أو التخطيط دفعه إلى ذلك.

تشبه المسألة موظفًا دخل المبنى ببطاقة صحيحة، ثم وجد في مكتبه مفاتيح جميع الغرف. بطاقة الدخول تثبت من هو؛ لا تفسر لماذا صار كل باب ممكنًا أمامه. لذلك لا ينبغي أن تُسلّم السلطة الحاسوبية كتلة واحدة ثم يُطلب من النموذج أن يكون حذرًا.

من مبدأ أقل الصلاحيات نصل إلى «المفوّض المرتبك»: برنامج يملك سلطة مشروعة لكنه يستخدمها لخدمة الطالب أو السياق الخطأ. يعود النمط اليوم في صورة أقوى؛ معلومة غير موثوقة تستطيع التأثير في نظام يملك أدوات حقيقية. ليست المشكلة في الجملة الخبيثة وحدها، بل في الطريق الذي يحول التأثير إلى قدرة على الفعل.

المعمار الأقوى يربط السلطة بالمهمة والزمن والسياسة. يمنح الوكيل نطاقًا محددًا، وعمليات مسماة، وحدودًا قابلة للإلغاء، وموافقات تحتفظ للإنسان بقرار مفهوم. لا تكفي عبارة «الإنسان في الحلقة» إذا كان يرى خطة غامضة ويضغط زرًا شكليًا؛ موضع قراره ومعلوماته وقدرته على الإيقاف هي ما يصنع الإشراف.

تقترح المحاضرة إطار «إثباتي الفعل» بوصفه عدسة تصميمية. الإثبات الأول يجيب: لماذا اختار النظام هذا الفعل؟ هنا نفحص البيانات والاسترجاع والذاكرة والاستدلال والسياق. الإثبات الثاني يجيب: لماذا كان مسموحًا له أن يفعله؟ هنا نفحص صاحب السلطة والتفويض والنطاق والسياسة وموعد الانتهاء.

يفصل الإطار قصتي القرار والسلطة كي لا تختبئ إحداهما خلف الأخرى. قد يملك النظام تفسيرًا ممتازًا ولا يملك الحق، أو يملك حقًا صحيحًا ويسيء فهم المهمة. في الفعل العالي الأثر يجب أن يظهر مسار الاختيار بجوار مسار التفويض، وأن يكون كل منهما قابلًا للفحص والإيقاف.

قد تكون النسخة التالية عن وكيل يقرأ البريد والتقويم، أو عن أنظمة متعددة الوكلاء، أو بروتوكولات الأدوات، أو هويات أحمال العمل، أو سلسلة توريد صار النموذج جزءًا منها. تتغير الحافة، لكن الجذر ثابت: كيف تتحول النية المشروعة إلى سلطة مشروعة من دون أن تكتسب التأثيرات غير الموثوقة حق التنفيذ؟

الفعل الأخير بسيط في صياغته وصعب في ممارسته: دقّق في السلطة، لا في الهوية وحدها. اختر فعلًا عالي الأثر في نظامك، واكتب بجواره سبب اختياره وسبب السماح به. إذا تعذر فصل الجوابين أو إثباتهما، فقد وجدت فجوة معمارية قبل أن تجد حادثة.