لماذا يعطيني وكيل الذكاء الاصطناعي إجابات خاطئة بثقة عن شركتي؟
الجواب المختصر
لأنه يجيب مما تعلّمه عن العالم عمومًا، لا مما هو صحيح في شركتك. النموذج الذي تدرّب على الإنترنت كله يعرف الكثير عن الأعمال عمومًا، ولا يعرف شيئًا عن عقودك وأسعارك وعملائك. وما لم تعطه معلوماتك أنت في لحظة الإجابة، فإنه يملأ الفراغ بشيء يبدو صحيحًا.
الوكيل لا يعرف أنه لا يعرف
الموظف الجديد الذي لا يعرف سياسة الخصم في شركتك يقول عادة «دعني أتحقق». أما نموذج اللغة فلا يقولها عادة. هو مبني ليكتب جوابًا سلسًا، والجواب السلس عن شركة عادية يُقرأ تمامًا مثل الجواب الصحيح عن شركتك. ولهذا الأخطاء خطيرة: لا تبدو أخطاء.
وهذا ليس عيبًا تنتظر أن يصلحه النموذج القادم. النموذج الأفضل يكتب جملًا أفضل، لكنه ما زال لم يرَ عقودك.
الحل أن تجعله يبحث قبل أن يجيب
المبدأ بسيط: قبل أن يجيب الوكيل عن سؤال يخص عملك، يجب أن يجد أولًا الحقائق المتعلقة به في مصادرك أنت، ثم يجيب من تلك الحقائق. اسم هذا في المجال هو التوليد المعزز بالاسترجاع retrieval-augmented generation، واختصاره RAG: ابحث أولًا، ثم اكتب.
والاسم أقل أهمية من العادة التي يصفها. الوكيل الجيد يتصرف مثل موظف حريص: يفتح العقد قبل أن يقتبس بندًا، ويراجع قائمة الأسعار قبل أن يذكر سعرًا، ويقرأ تاريخ العميل قبل أن يصف العلاقة معه.
ماذا يغيّر هذا لك بصفتك مديرًا
تترتب على هذا المبدأ 3 أمور، وليس فيها أمر تقني:
- جودة الوكيل تتوقف على حالة معلوماتك. إذا كانت عقودك متفرقة بين مرفقات البريد والمجلدات الشخصية، فسيجد الوكيل بعضها ويفوته بعضها. وترتيب معرفتك هو في الغالب المشروع الأول الحقيقي.
- كل جواب يجب أن يبيّن من أين جاء. الوكيل الذي يقول «حسب البند 7 من الاتفاقية الموقّعة في مارس» يمكن التحقق منه في دقيقة. والوكيل الذي يذكر الجواب وحده لا يمكن التحقق منه. اطلب المصدر في كل مرة، فهو أرخص حماية لديك.
- «لم أجده» يجب أن يكون جوابًا مقبولًا. قل لفريقك إن الوكيل الذي يعترف بأنه لم يجد المعلومة يعمل بشكل صحيح، وإن الوكيل الذي عنده جواب دائمًا هو الذي يستحق القلق.
السؤال الذي تطرحه على فريقك
قبل أن يوضع أي وكيل أمام الموظفين أو العملاء، اطرح سؤالًا واحدًا: «حين يجيب عن عملنا، من أين يأتي هذا الجواب بالضبط؟». إن كان الرد «من النموذج»، فالوكيل يخمّن. وإن ذكر الرد وثائقكم وأنظمتكم، فأنتم على الطريق الصحيح.