هل يستطيع وكيل الذكاء الاصطناعي أن يقرأ نظام تخطيط الموارد في شركتي بأمان؟
الجواب المختصر
نعم، إذا عاملت الوكيل معاملة موظف جديد لا تثق به ثقة كاملة بعد. أعطه حسابه الخاص، واسمح له بالقراءة فقط، واترك لنظام تخطيط الموارد نفسه أن يقرر ما يجوز له أن يراه. الخطر ليس أن يقرأ الوكيل بياناتك. الخطر أن تعطيه صلاحيات أوسع مما يحصل عليه أي شخص في الدور نفسه.
لماذا نربطه أصلًا
الوكيل الذي لا يرى نظام تخطيط الموارد يجيب بالتخمين. عملاؤك وأسعارك ومخزونك وفواتيرك كلها هناك. لذلك فالسؤال الحقيقي عند أغلب الشركات ليس هل نربط الوكيل، بل كيف نربطه.
للوكيل حسابه الخاص
لا تدع الوكيل يدخل بحساب شخص. حين يكون له حسابه الخاص:
- تستطيع دائمًا أن تميّز ما فعله هو عمّا فعله شخص. لا يُسجَّل شيء من عمله باسم زميل.
- تستطيع إيقافه فورًا، دون أن تمنع أحدًا من عمله.
- يمكن أن تكون صلاحياته أضيق من صلاحيات أي شخص. يرى ما تحتاجه مهمته، لا ما يراه مديره.
نظام تخطيط الموارد هو الذي يفرض القواعد، لا برنامج الربط
بين الوكيل ونظام تخطيط الموارد برنامج صغير يربط بينهما. ومن المغري أن تكتب قواعد الأمان فيه، مثل «هذا الوكيل لا يقرأ الرواتب». لا تعتمد على ذلك. فالقاعدة المكتوبة في برنامج الربط قد يُبطلها خطأ في برنامج الربط نفسه.
نظام تخطيط الموارد عندك فيه نظام صلاحيات بُني واختُبر على مدى سنوات. استخدمه. فإذا كان حساب الوكيل لا يرى الرواتب، فلن يكشفها أي سؤال ذكي.
القراءة أولًا، والكتابة بعدها بوقت طويل
القراءة لا تُتلف سجلًا. الكتابة قد تُتلفه. ابدأ بالقراءة فقط، وابقَ عليها حتى تثق بما يقرؤه الوكيل وبما يستنتجه منه. أما أن تسمح له بإنشاء طلب أو تغيير سعر، فهذا قرار منفصل، تتخذه لاحقًا، نوعًا واحدًا من الأعمال في كل مرة.
كيف فعلنا ذلك
حين ربطنا الذكاء الاصطناعي بنظام تخطيط الموارد الخاص بنا في أودوتك، اتخذنا 4 قرارات:
- القراءة فقط. الإنشاء والتعديل والحذف مخطط لها في مرحلة لاحقة، لا في المرحلة الأولى.
- حساب خاص بالوكيل، بصلاحيات نظام تخطيط الموارد نفسه. برنامج الربط لا يقرر ما يراه الوكيل. نظام تخطيط الموارد هو الذي يقرر.
- نطاق ضيق. نظامنا يضم أكثر من شركة، وحساب الوكيل يقرأ واحدة منها فقط.
- كتبنا ما لا نستطيع التحكم فيه. بعض الحدود لا يمكن فرضها فرضًا كاملًا. كتبناها وقبلناها ونحن نعرفها، بدل أن نتظاهر بأن برنامج الربط يسد كل ثغرة.
السؤال الذي تطرحه على فريقك
«لو طلب الوكيل من نظام تخطيط الموارد كل الرواتب، وكل الحسابات البنكية، وسعر كل عميل، فأي هذه سيحصل عليه؟». إن كان الجواب «نحتاج أن نتحقق»، فالصلاحيات أوسع مما ينبغي.