رقمٌ بدا خاطئًا، وكان تغييره قرارًا مستقلًا.
من بناء فريق Group 05: Malek Alhazmi، Joorie Alsakran، Ibrahem Altowalah، Nasser Alzaid. الورقة ↓
انخفضت الإيرادات اليومية ليوم 18 أغسطس إلى نحو النصف. تتبّع ADII الانخفاض إلى مُرشِّح في مرحلة تجهيز البيانات استبعد طلبات موزّعَين اثنين، واقترح إزالته. ولم يصدر جوابه، «صحّحه»، إلا بعد أن أجاز برنامجٌ خارج النموذج التغيير، وقبِله برنامجٌ ثانٍ أعاد بناء البيانات من نسخة مجمّدة مع تطبيق التغيير. والذكاء الاصطناعي الذي اقترح التصحيح لم يعتمده.
بحثٌ لفريق: ورقة علمية وتطبيق مرجعي كامل يعمل محليًا، ولم يُطلق في بيئة إنتاج. هذا تشغيلٌ واحدٌ مسجَّل.
ضوابط الحماية لا تحميك من الوكيل السيئ فحسب، بل قد تخفيه.
شرعنا في بناء مشروع تخرّج لوكيل ذكاء اصطناعي، فخرجنا بورقة بحثية عن الكيفية التي يستحقّ بها وكلاء الذكاء الاصطناعي حقّ التصرّف، وبهذه النتيجة التي تهمّ كلّ من يشغّل وكلاء ذكاء اصطناعي خلف ضوابط حماية.
بدأ الأمر في Agentic AI Bootcamp من الأكاديمية السعودية الرقمية × WeCloudData، بسؤال واحد: ما الذي يجب أن يثبته الوكيل قبل أن يستحقّ حقّ التصرّف وحده؟ وصار ذلك ورقتنا: Permission Is Not Justification: Evaluating the Decision to Act in Data-Incident Agents.
اقترح أحد الوكلاء 27 إصلاحًا سيئًا، فأوقفت البوّابات الـ27 كلّها. واتّخذ وكلاء آخرون سبعة قرارات خاطئة بعدم التصرّف، فلم تبلغ تلك الأخطاء أيّ بوّابة أصلًا. إخفاقان مختلفان، والدليل المطمئن واحد: سجلّ قبول نظيف. فإن منحتَ وكيلًا صلاحيات أوسع بناءً على ذلك السجلّ، فقد تكون تقيس ضوابط الحماية لا الوكيل. فالسجلّ الذي لا يرصد إلا الأفعال لا يرى الامتناع عنها.
وبنينا كذلك مثالًا مضادًّا أفسد مبلغ كلّ طلب، وأبقى كلّ مجموع يفحصه المدقّق لدينا على حاله، فاجتاز في العوالم الـ18 كلّها.
- الإذن ليس مبرّرًا.
- قبول المدقّق ليس صحة.
- السجلّ النظيف ليس كفاءة.
18 حالة. مجال واحد. يكفي ذلك لإسقاط معيار، ولا يكفي لاعتماد وكيل.
ما تعنيه الأرقام: الـ27 هي تسع حالات شُغّلت كلٌّ منها ثلاث مرات على نموذج محلي واحد، Qwen3-4B، اختير لأنه الأرجح أن يقترح إصلاحًا خاطئًا. والسبعة هي أخطاء نموذجَين مستضافَين في حالات المقارنة الـ12. والحالات الـ18 حوادث اصطناعية أنشأها الفريق وصنّفها بنفسه: 12 للمقارنة و6 محجوبة. والمثال المضاد تعديل مكتوب شُغّل عبر النظام الحقيقي بلا نموذج، خارج حِزم التقييم.
ما هو ADII
تطبيق مرجعي كامل يعمل محليًا. صمّمنا حدود الصلاحيات وأهّلناها كما لو كانت تعمل في بيئة إنتاج، ولم نُطلقه في بيئة إنتاج لدى عميل. ولا يدّعي توفّرًا عاليًا، ولا دخولًا موحّدًا، ولا إدارة أسرار، ولا موصّلات مؤسسية، ولا تشغيلًا، ولا حلًّا لإقامة البيانات.
| المحقّق | لا يبلغ البيانات إلا عبر طبقة أدوات للقراءة فقط، ولا يستورد المدقّق ولا التقييم، ويقدّم قرارًا: صحّحه، أو اتركه كما هو، أو أحِل المسألة للمراجعة. |
|---|---|
| المُجيز | يقرّر ما إذا كان التغيير مسموحًا هنا. |
| المدقّق | يعيد بناء البيانات من نسخة مجمّدة مع تطبيق التغيير، ويفحصها وفق ثوابت البيانات نفسها. |
| السجلّ | يكتب كلّ تشغيل إيصالًا قبل إنفاق أي شيء، وأثرًا أثناء حدوثه، وسجلًّا في نهايته. |
| التقييم | سُجّل، وجُمّد النظام ببصمته، قبل التشغيلات النهائية: 66 تشغيلًا مستضافًا و36 محليًا، منشورة. وبأدواته أصاب gpt-6-sol في حالات المقارنة الـ12 كلّها وفي الحالات المحجوبة الست كلّها؛ وحين لم يُعرض عليه إلا التنبيه أصاب في 4 من 12، وهو ما تحقّقه قاعدة تُحيل كلّ شيء للمراجعة. |
| تحقّق بنفسك | يعيد برنامج واحد حساب كلّ نتيجة في الورقة من التشغيلات المنشورة، في دقائق، بلا مفتاح API، وتحفظ مجموعة اختبارات تلك الحدود. |
حقوق النشر للمؤلفين الأربعة: الشيفرة بترخيص AGPL-3.0، والبيانات بترخيص CC BY-SA 4.0، والمخطوطة لهم.