إذا أخطأ وكيل الذكاء الاصطناعي في شركتي، فمن المسؤول قانونًا؟
الجواب المختصر
في أغلب الحالات، شركتك هي المسؤولة. الوكيل ليس شخصًا يحاسبه القانون، لذلك يُعامَل ما يقوله أو يفعله نيابة عنك على أنه ما قالته شركتك أو فعلته. قد يتقاسم معك المورّد التكلفة بموجب العقد، لكن عميلك سيحاسبك أنت. والقرار الحقيقي ليس من يدفع بعد الخطأ، بل ما يجوز للوكيل أن يفعله قبله.
الوكيل ليس طرفًا مستقلًا
في 2024، حكمت هيئة قضائية في مقاطعة بريتش كولومبيا الكندية في قضية ضد الخطوط الجوية الكندية Air Canada. أخبر روبوت المحادثة على موقع الشركة راكبًا فقد قريبًا له أنه يستطيع أن يشتري تذكرته بالسعر الكامل، ثم يطلب خصم العزاء خلال 90 يومًا. وكان هذا خطأ، فسياسة الشركة نفسها لا تسمح بالخصم بعد انتهاء الرحلة. وحين طلب الراكب استرداد الفرق، رفضت الشركة.
احتجت الشركة بأن روبوت المحادثة كيان قانوني مستقل، مسؤول عن أفعاله. رفضت الهيئة هذا الاحتجاج. فالروبوت جزء من موقع الشركة، والشركة مسؤولة عما قاله، وأُلزمت بتعويض الراكب.
ذلك الروبوت كان يجيب عن الأسئلة فقط. أما الوكيل فيفعل أكثر.
الوكيل يتصرف، فأخطاؤه تصرفات
روبوت المحادثة يعطي جوابًا خاطئًا، فتصححه. أما الوكيل فيرسل الرسالة، ويرد المبلغ، ويغيّر السعر، ويصدر طلب الشراء. الجملة الخاطئة يمكن سحبها. أما المبلغ الذي خرج، أو الالتزام الذي قبله العميل، فكثيرًا ما لا يمكن سحبه.
وكلما زاد ما يستطيع الوكيل أن يفعله وحده، صار المزيد من أخطائه التزامات على شركتك.
ما يستطيع عقد المورّد أن يفعله، وما لا يستطيعه
عقدك مع المورّد يحدد كيف تُقسم تكلفة الخطأ بينك وبينه. اقرأ ما يقبله المورّد حين يخطئ منتجه، والحد الأعلى لما يلتزم بدفعه. لكن هذا العقد بينك وبين المورّد. أما عميلك فقد تعاقد معك أنت.
ماذا تقول المبادئ المنشورة للذكاء الاصطناعي
وضعت منظمة التعاون الاقتصادي والتنمية OECD مبادئ للذكاء الاصطناعي، وانضمت إليها أكثر من 40 دولة والاتحاد الأوروبي. تقول هذه المبادئ إن الجهات التي تطوّر أنظمة الذكاء الاصطناعي أو تستخدمها أو تشغّلها يجب أن تُسأل عن سلامة عملها. والاتجاه هو نفسه في القضية الكندية: الجهة التي تستخدم الذكاء الاصطناعي تُسأل عما يفعله.
ماذا يعني هذا لك
قرّر هذه الأمور قبل أن يبدأ الوكيل العمل، لا بعد خطئه الأول:
- أي الأفعال تحتاج إلى شخص. كل ما يرسل أو يدفع أو يلتزم أو يحذف ينبغي أن ينتظر موافقة شخص. في نظامي الخاص، لا يرسل الوكلاء شيئًا أبدًا، ولا يحذفون، ولا يغيّرون سجلًا. يجهّزون، وأنا أنفّذ.
- من صاحب الوكيل. سمِّ شخصًا واحدًا يُسأل عنه، كما تفعل مع أي موظف.
- ماذا يُسجَّل. احتفظ بسجل لما فعله الوكيل، وما بنى عليه فعله. حين يُعترض على خطأ، يكون هذا السجل دليلك.
لست محاميًا. اسأل محاميًا عن عقودك وعن قواعد قطاعك. لكن لا يستطيع أي محامٍ أن يجعل الوكيل مسؤولًا عن نفسه.