من يراقب وكيل الذكاء الاصطناعي؟
الجواب المختصر
وكيل آخر يراجع العمل، وأنت تراجع القرارات. الوكيل الذي يُترك ليقيّم عمله بنفسه سيخبرك أن كل شيء على ما يرام. تحتاج إلى وكيل ثانٍ عمله الوحيد أن يبحث عما حدث خطأ، وإلى حد واضح بين ما يجوز لهذا المراجع أن يصلحه وحده وما يجب أن يرفعه إليك.
ما تعلمته من إدارة يوم عملي بالوكلاء
أدير عمل المتابعة الخاص بي بمجموعة صغيرة من وكلاء الذكاء الاصطناعي. يقرؤون بريدي وتقويمي وملاحظات اجتماعاتي كل بضع ساعات. ويتابعون ما وعدت به، وما وعدني به الآخرون، وما زال ينتظر. ويجهّزون مسودات الردود. ولا يرسلون شيئًا أبدًا، فأنا من يرسل.
في الأيام الأولى، ارتكب النظام أخطاء لم يلاحظها أي وكيل وحده. أبلغني أن «لا جديد» بينما كانت مسودات متروكة في بريدي لم يلمسها أحد. وردّ عليّ بالإنجليزية، مع أن كل رسالة إليّ يجب أن تكون بالعربية. كل تشغيل بدا صحيحًا من الداخل. ولم تظهر المشكلة إلا من الخارج، عبر تشغيلات كثيرة.
المراجع وكيل منفصل بعمل مختلف
لذلك أضفت نوعًا ثانيًا من الوكلاء: مدقّقًا. هو لا يقوم بالعمل. مرة كل يوم يقرأ ما فعله الوكلاء العاملون، ويطرح أسئلة مختلفة. هل عملت كل مهمة في موعدها؟ هل ضاع شيء بين تشغيل والتشغيل الذي بعده؟ هل ما يبلغ عنه النظام يطابق ما في البريد فعلًا؟
الفصل بينهما مهم. الوكيل الذي يقوم بالعمل يريد أن ينهيه. والوكيل الذي يراجع العمل يريد أن يجد خطأ. وأن تطلب من وكيل واحد الأمرين يشبه أن تطلب من موظف أن يدقق مصروفاته بنفسه.
أين يُرسم الحد
للمدقق نوعان من الملاحظات، ويعامل كل نوع بطريقة مختلفة:
- ما هو متأكد منه، يصلحه، ويكتب ما وجده وما غيّره.
- ما يحتاج إلى حكم، لا يلمسه. يكتب السؤال إليّ بكلام بسيط، وينتظر.
هذا الحد هو قرار التصميم الحقيقي، لا التقنية. إن رسمته واسعًا، بدأ المراجع يغيّر أشياء لم توافق عليها أبدًا. وإن رسمته ضيقًا، انتظرك كل خطأ صغير، فتتوقف عن قراءة التقارير.
ماذا يعني هذا لك
إن وضعت وكيلًا في العمل في شركتك، فخطّط للمراجعة قبل أن تخطط للعمل:
- قرّر من يراجعه: وكيل ثانٍ، أو شخص، أو الاثنان.
- قرّر ما يجوز للمراجع أن يصلحه وحده، وما يجب أن يرفعه إلى شخص.
- قرّر ما لا يجوز للوكيل العامل أن يفعله وحده أبدًا. في حالتي: لا يرسل أبدًا، ولا يحذف، ولا يغيّر سجلًا. يجهّز، وأنا أنفّذ.
الوكيل الذي لا تستطيع مراجعته وكيل لا تستطيع أن تأتمنه على أي شيء مهم.