أدلة التشغيل لوكلاء الذكاء الاصطناعي: ماذا تكتب قبل أن يرنّ جهاز التنبيه

تفشل الوكلاء بطرق لا تفشل بها الخدمات العادية: توجيه معدّل أو تحديث للنموذج أو مستند مسموم قد يغيّر السلوك دون أي نشر. الاستجابة الأولى تشبه أي حادثة، لكن المناوب يحتاج إلى خطوات خاصة بالوكلاء، مكتوبة مسبقًا.

لماذا نكتبه

يذكر كتاب SRE من Google أن التفكير في أفضل الممارسات وتسجيلها مسبقًا في دليل تشغيل يحسّن متوسط زمن الإصلاح بنحو ثلاثة أضعاف مقارنةً بالارتجال. هذا الرقم تجربة Google مع خدماتها هي، وليس وعدًا لخدماتك، لكن الاتجاه واضح.

أوقف أولًا ثم فسّر

أغلى خطأ في حادثة وكلاء هو التحقيق بينما يواصل الوكيل التصرف. ينبغي أن يضع دليل التشغيل الاحتواء قبل التشخيص: إيقاف الوكيل مؤقتًا أو تحديد معدله، وسحب بيانات اعتماده أو تضييقها إن كان قد يتصرف بناءً على تعليمات محقونة.

ما يحتويه كل دليل تشغيل

• العَرَض والتنبيه الذي يقود إلى هنا، مع رابط لوحة المتابعة.
• درجة الخطورة ومن يُستدعى، حتى لا يناقش أحد ذلك أثناء الحادثة.
• خطوات التشخيص مع الأمر الدقيق والناتج المتوقع.
• خطوات التخفيف. المدمّرة منها موسومة وتبيّن كيفية التراجع عنها.
• كيفية التحقق من التعافي، ومتى يُفضَّل التراجع بدلًا من ذلك.
• رابط إلى قالب المراجعة اللاحقة للحادثة.

بنود خاصة بالوكلاء

• التراجع عن آخر تغيير في التوجيه أو النموذج أو الإعدادات، لا في الشيفرة وحدها.
• معرفة استدعاءات الأدوات التي نفذها الوكيل، وبأي هوية، من مسار التدقيق.
• تحديد الإجراءات التي يجب أن يراجعها شخص قبل أن يستأنف الوكيل. تشير إرشادات Anthropic عن الوكلاء إلى أنهم يستطيعون التوقف لطلب ملاحظات بشرية عند نقاط التفتيش.

اختبره

دليل تشغيل لم ينفّذه أحد مجرد تخمين. تدرّب على مفتاح الإيقاف الطارئ والتراجع بانتظام، وأصلح الخطوات التي لم تعد تعمل.