ماذا يحدث حين ينسى وكيل الذكاء الاصطناعي ما اتفقنا عليه؟
الجواب المختصر
يستمر في العمل بدون الاتفاق، ولا يخبرك. الوكيل لا يتذكر إلا ما هو مكتوب في مكان يقرؤه قبل أن يبدأ. وكل ما اتُّفق عليه داخل محادثة فقط يضيع حين تنتهي تلك المحادثة أو تطول أكثر من اللازم. والحل أن تكتب القرارات في مكان يجب على الوكيل أن يقرأه، لا أن تأمل أن يتذكر.
الوكيل يبدأ كل محادثة من جديد
الزميل الذي اتفق معك على شيء الأسبوع الماضي ما زال يعرفه اليوم. أما الوكيل ففي الغالب لا يعرفه. كل محادثة جديدة تبدأ فارغة، إلا مما تعطيه أنت. وحتى داخل محادثة واحدة طويلة، لا يستطيع الوكيل أن يحمل إلا قدرًا محدودًا في وقت واحد. وفي كثير من المنتجات، كلما طالت المحادثة اختُصرت أقدم أجزائها أو حُذفت.
والخطر هنا هو نفسه خطر الإجابات الخاطئة الواثقة: الوكيل لا يقول «لقد نسيت». يستمر في العمل بطلاقة، بدون الاتفاق.
ما تعلمته من نظامي الخاص
وكلاء المتابعة عندي يعملون كل بضع ساعات، وكل تشغيل يبدأ من جديد. ومنذ اليوم الأول كان همّي الدائم أن ننسى ما اتفقنا عليه، أنا والوكلاء معًا.
لذلك يحتفظ النظام بسجل مكتوب: كل قرار بتاريخه، وكل بند مفتوح، وكل مسودة وما حدث لها. كل تشغيل يبدأ بقراءة هذا السجل، ولا شيء يعتمد على أن يتذكر الوكيل. ومرة كل يوم، يتحقق وكيل منفصل من أن تعليمات الوكلاء ما زالت مطابقة للقرارات المكتوبة في السجل.
زيادة الذاكرة ليست الحل
الحل المغري أن تعطي الوكيل كل شيء: كل رسالة، وكل محادثة سابقة. وهذا يجعل الأمر أسوأ. فكلما حمّلت الوكيل أكثر في وقت واحد، فاته أكثر مما حمّلته. وفي نظامي الخاص أعدّ هذا الحمل أكبر خطر منفرد على دقة الوكيل.
الذاكرة الجيدة للوكيل قصيرة وحديثة ومرتبة. فيها القرارات، لا نصوص المحادثات كاملة.
ماذا يعني هذا لك
- كل اتفاق يجب أن يدوم يُكتب، في مكان يقرؤه الوكيل قبل أن يبدأ العمل.
- اجعل هذا السجل قصيرًا. حين يتغير قرار، ضع الجديد مكان القديم، ولا تكدّسه فوقه.
- تأكد أن الوكيل قرأه فعلًا. في بداية العمل، اسأله عمّا يعرفه عن القرار الأهم.
ذاكرة الوكيل وثيقة يحافظ عليها شخص ما. فإذا لم يحافظ عليها أحد، فلا ذاكرة للوكيل.