عندما يُمنح موظف جديد صلاحيات، نسأل: ما الذي يحتاجه فعلًا؟ لكن عندما يُمنح وكيل ذكاء اصطناعي صلاحيات، يحدث شيء غريب: نمنحه كل شيء «كي لا يفشل». هذا الفارق النفسي هو، في رأينا، أخطر فجوة أمنية في تبنّي الذكاء الاصطناعي المؤسسي اليوم.
ثلاث حوادث، نمط واحد
- وكيل دعم عملاء مُنح مفتاح CRM بصلاحية قراءة وكتابة كاملة؛ حقن أوامر في تذكرة أدى إلى تصدير 40 ألف سجل عميل.
- وكيل DevOps يملك رمز سحابة بدور مدير؛ طلب ملتبس من مهندس أدى إلى حذف حاويات تخزين إنتاجية.
- وكيل بريد بصلاحية إرسال نيابة عن النطاق؛ استُخدم لإرسال تصيد داخلي بعد اختراق حساب المشغّل.
في الحالات الثلاث لم تكن المشكلة ذكاء النموذج ولا غباءه، بل أن نصف قطر الانفجار حُدد مسبقًا بصلاحيات لا علاقة لها بالمهمة.
لماذا يفشل النموذج التقليدي؟
1. الوكيل ليس مستخدمًا ولا خدمة
نماذج IAM مبنية على هويتين: إنسان (يتحمل مسؤولية) وخدمة (سلوك محدد ومتوقع). الوكيل بينهما: سلوكه غير محدد مسبقًا، لكنه لا يتحمل مسؤولية. لا يوجد صندوق مناسب له، فنضعه في أوسع صندوق.
2. المدخلات هي التعليمات
في البرمجيات التقليدية نفصل بين الشفرة والبيانات. في الوكلاء اللغويين البيانات التي يقرؤها (بريد، تذكرة، صفحة ويب) قد تصبح تعليمات. أي صلاحية يملكها الوكيل تصبح متاحة لأي نص يستطيع الوصول إليه.
3. السلسلة تُخفي المسؤولية
عندما يستدعي وكيل وكيلًا آخر، تتراكم الصلاحيات وتضيع إمكانية التتبع. من «قرر» حذف الحاوية؟ السجل يقول: الوكيل. والوكيل يقول: طُلب مني.
ما البديل؟
المبدأ | التطبيق العملي |
|---|---|
صلاحيات لكل مهمة لا لكل وكيل | رمز قصير الأجل يُصدر عند بدء المهمة بنطاق يحدده نوعها |
فصل القراءة عن الكتابة | وكيل يقرأ البيانات لا يكتبها؛ الكتابة تمر عبر خطوة موافقة |
حدود صلبة خارج النموذج | سياسات تُفرض في البنية التحتية (IAM، شبكة) لا في تعليمات النظام |
اعتبار كل مدخل غير موثوق | لا تنفيذ مباشر لأي إجراء مستخرج من محتوى خارجي دون تأكيد |
سجل قرارات قابل للتدقيق | كل استدعاء أداة يُسجَّل مع السياق الذي أدى إليه |
«اسأل عن كل وكيل السؤال نفسه الذي تسأله عن متدرب في يومه الأول: لو أخطأ أسوأ خطأ ممكن، ما الذي سيُدمَّر؟ ثم اضبط الصلاحيات على هذا الجواب.»
خلاصة
الوكلاء سيحصلون على صلاحيات أكثر لا أقل، لأن قيمتهم في الفعل لا في الكلام. التحدي ليس منعهم، بل بناء نموذج صلاحيات وُلد لهم: مؤقت، ضيّق، مفروض خارج النموذج، وقابل للتدقيق. من يبني هذا الآن لن يظهر في تقاريرنا العام المقبل.
