هشام المهدي

ماذا يحتاج الوكيل أن يعرف؟

لماذا يعطيني وكيل الذكاء الاصطناعي إجابات خاطئة بثقة عن شركتي؟

الجواب المختصر

لأنه يجيب مما تعلّمه عن العالم عمومًا، لا مما هو صحيح في شركتك. النموذج الذي تدرّب على الإنترنت كله يعرف الكثير عن الأعمال عمومًا، ولا يعرف شيئًا عن عقودك وأسعارك وعملائك. وما لم تعطه معلوماتك أنت في لحظة الإجابة، فإنه يملأ الفراغ بشيء يبدو صحيحًا.

الوكيل لا يعرف أنه لا يعرف

الموظف الجديد الذي لا يعرف سياسة الخصم في شركتك يقول عادة «دعني أتحقق». أما نموذج اللغة فلا يقولها عادة. هو مبني ليكتب جوابًا سلسًا، والجواب السلس عن شركة عادية يُقرأ تمامًا مثل الجواب الصحيح عن شركتك. ولهذا الأخطاء خطيرة: لا تبدو أخطاء.

وهذا ليس عيبًا تنتظر أن يصلحه النموذج القادم. النموذج الأفضل يكتب جملًا أفضل، لكنه ما زال لم يرَ عقودك.

الحل أن تجعله يبحث قبل أن يجيب

المبدأ بسيط: قبل أن يجيب الوكيل عن سؤال يخص عملك، يجب أن يجد أولًا الحقائق المتعلقة به في مصادرك أنت، ثم يجيب من تلك الحقائق. اسم هذا في المجال هو التوليد المعزز بالاسترجاع retrieval-augmented generation، واختصاره RAG: ابحث أولًا، ثم اكتب.

والاسم أقل أهمية من العادة التي يصفها. الوكيل الجيد يتصرف مثل موظف حريص: يفتح العقد قبل أن يقتبس بندًا، ويراجع قائمة الأسعار قبل أن يذكر سعرًا، ويقرأ تاريخ العميل قبل أن يصف العلاقة معه.

ماذا يغيّر هذا لك بصفتك مديرًا

تترتب على هذا المبدأ 3 أمور، وليس فيها أمر تقني:

السؤال الذي تطرحه على فريقك

قبل أن يوضع أي وكيل أمام الموظفين أو العملاء، اطرح سؤالًا واحدًا: «حين يجيب عن عملنا، من أين يأتي هذا الجواب بالضبط؟». إن كان الرد «من النموذج»، فالوكيل يخمّن. وإن ذكر الرد وثائقكم وأنظمتكم، فأنتم على الطريق الصحيح.