متى يجب أن يتوقف وكيل الذكاء الاصطناعي ويسأل شخصًا؟
الجواب المختصر
قبل أي عمل يصعب التراجع عنه، أو يُلزم الشركة: الإرسال، والدفع، والحذف، والتوقيع، أو تغيير سجل يعتمد عليه آخرون. وتحت هذا الحد، يستطيع الوكيل أن يعمل وحده ثم يبلغ بما فعل. وتحديد موضع هذا الحد عمل المدير، ويجب أن يُكتب قبل أن يبدأ الوكيل.
الإنسان داخل الحلقة
يسمي أهل المجال هذا «الإنسان داخل الحلقة» human in the loop: أن يشارك شخص في نقاط مختارة من عمل الوكيل، وغالبًا ليوافق على عمل قبل أن يحدث.
وتصف Anthropic وكلاء يتوقفون ليأخذوا رأي شخص عند نقاط مراجعة محددة، أو حين يواجهون شيئًا يمنعهم من المتابعة. وتذكر أيضًا أن للوكلاء عادة شروطًا للتوقف، مثل حد أقصى لعدد المحاولات، حتى يبقوا تحت السيطرة.
وتضع OWASP، وهي مجتمع معروف في أمن البرمجيات، «الاستقلال الزائد» excessive agency ضمن أهم مخاطر تطبيقات الذكاء الاصطناعي: أن يُعطى الوكيل وظائف أو صلاحيات أو استقلالًا أكثر مما يحتاج. ومن الضمانات التي توصي بها أن يوافق شخص على الأعمال عالية الأثر قبل أن تُنفّذ.
ثلاثة أنواع من الأعمال
من الطرق العملية لرسم هذا الحد أن تقسم كل عمل يستطيع الوكيل أن يقوم به إلى ثلاث مجموعات:
- أعمال يقوم بها وحده: يقرأ، ويبحث، ويلخّص، ويجهّز مسودة.
- أعمال يقوم بها ثم يبلغ: يصحّح شيئًا هو متأكد منه، ويكتب ما وجده وما غيّره.
- أعمال يجب أن يسأل قبلها: يرسل أي شيء إلى خارج الشركة، أو يدفع، أو يحذف، أو يوقّع، أو يغيّر سجلًا يعتمد عليه آخرون.
اكتب القوائم الثلاث قبل أن يبدأ الوكيل.
وفي عملي أنا، لا يرسل وكلائي شيئًا أبدًا، ولا يحذفون، ولا يغيّرون شيئًا موجودًا في بريدي أو في نظام شركتنا. يجهّزون، وأنا أنفّذ. ويصف سؤال من يراقب وكيل الذكاء الاصطناعي؟ كيف يعمل هذا يومًا بيوم.
ويجب أن يتوقف الوكيل حين يتعثر
الموافقة سبب للتوقف. والتعثر سبب آخر. الوكيل الذي لا يجد ما يحتاجه يجب أن يقول ذلك وينتظر، لا أن يملأ الفراغ بتخمين. واكتب هذا في تعليماته بكلام واضح.
لا تطلب الموافقة على كل شيء
إن احتاجت كل خطوة صغيرة إلى موافقة، توقف الناس عن قراءة ما يوافقون عليه، وصارت الموافقة مجرد ضغطة زر. اجعل قائمة «اسأل أولًا» قصيرة، واجعل كل بند فيها قرارًا مهمًا فعلًا. وبهذا يحظى كل طلب موافقة باهتمام حقيقي.