كيف يتجنب وكلاء الذكاء الاصطناعي الهلوسة: قواعد المعرفة والمصادر ودرس Air Canada

أكبر مخاوف أصحاب الأعمال من وكلاء الذكاء الاصطناعي بسيط: ماذا لو اخترع شيئاً؟ إنه خوف معقول. النماذج اللغوية الكبيرة قد تنتج إجابات سلسة وواثقة لكنها خاطئة. وفي خدمة العملاء، الإجابة الخاطئة ليست محرجة فقط، بل قد تكون ملزمة قانونياً.

درس Air Canada

في نوفمبر 2022، سأل جيك موفات روبوت الدردشة على موقع Air Canada عن أسعار تذاكر الحداد بعد وفاة أحد أفراد عائلته. أخبره الروبوت أنه يستطيع حجز تذكرة عادية وطلب سعر الحداد المخفض خلال 90 يوماً. لم تكن تلك سياسة Air Canada. وحين قدّم طلبه، رفضته الشركة.

رفع القضية إلى محكمة حل النزاعات المدنية في كولومبيا البريطانية. وفي قضية Moffatt v. Air Canada, 2024 BCCRT 149، حكمت المحكمة ضد شركة الطيران.^[1] كانت Air Canada قد احتجت بأنها لا يمكن أن تُحاسَب على معلومات قدّمها روبوت الدردشة، معاملةً الروبوت فعلياً ككيان منفصل. رفضت المحكمة ذلك، وألزمت Air Canada بدفع استرداد جزئي بقيمة 650.88 دولاراً كندياً إضافة إلى الفوائد والرسوم.

كان المبلغ صغيراً. لكن المبدأ لم يكن كذلك: شركتك مسؤولة عما يقوله وكيل الذكاء الاصطناعي لعملائك.

ما هي هلوسة الذكاء الاصطناعي؟

في مسح واسع الاستشهاد نُشر في ACM Computing Surveys، يعرّف زيوي جي وزملاؤه الهلوسة بأنها محتوى مولَّد غير منطقي أو غير أمين للمحتوى المصدر المقدَّم.^[3] ويصفونها بأنها مشكلة منتشرة عبر مهام توليد اللغة، من التلخيص إلى الحوار، لا خللاً نادراً.

تحدث الهلوسة لأن النموذج اللغوي مدرَّب على إنتاج نص معقول. وحين لا يملك الحقائق، قد ينتج شيئاً يبدو صحيحاً بدلاً من قول «لا أعرف».

كيف تمنع وكيل الذكاء الاصطناعي من التخمين

1. ابنِ الإجابات على مستنداتك أنت

قدّم باتريك لويس وزملاؤه في Facebook AI Research وكلية لندن الجامعية التوليد المعزز بالاسترجاع (RAG) في مؤتمر NeurIPS 2020.^[2] بدلاً من الاعتماد فقط على ما حفظه النموذج أثناء التدريب، يسترجع النظام أولاً مقاطع ذات صلة من مصدر معرفة موثوق، ثم يولّد إجابة بناءً عليها.

وبالنسبة للشركة، يجب أن يكون مصدر المعرفة هذا محتواك المعتمد: الأسعار، والسياسات، وساعات العمل، والخدمات، والشروط، والأسئلة الشائعة.

2. اذكر المصدر

يجب أن تكون كل إجابة قابلة للتتبع إلى مستند أو مقطع محدد. وإذا راجع الموظفون محادثة، يجب أن يروا بالضبط من أين جاءت الإجابة.

3. ضع حداً للثقة

إذا لم تُجب المعلومات المسترجعة عن السؤال بوضوح، يجب ألا يحاول الوكيل. تحت مستوى ثقة محدد، يقول بصدق إنه لا يملك تلك المعلومة ويعرض خطوة تالية.

4. وفّر مساراً إلى إنسان

«ما عندي إجابة على هذا السؤال، لكن أقدر أحوّلك لفريقنا، أو آخذ رسالة، أو أرتب لك اتصال.» هذه تجربة عميل أفضل بكثير من إجابة خاطئة واثقة.

5. سجّل الفجوات وأغلقها

كل سؤال بلا إجابة إشارة. سجّله، وراجعه، واعتمد له إجابة، وأضفها إلى قاعدة المعرفة، حتى يستطيع الوكيل الإجابة في المرة القادمة.

أسئلة تطرحها على أي مزود ذكاء اصطناعي

1. من أين يحصل الوكيل على إجاباته: من ذاكرة النموذج أم من مستنداتنا المعتمدة؟
2. هل نستطيع رؤية مصدر كل إجابة؟
3. ماذا يحدث حين لا تكون الإجابة في محتوانا؟
4. هل نستطيع تحديد حد الثقة أو ضبطه؟
5. كيف نراجع الإجابات الجديدة ونعتمدها؟
6. من المسؤول عن إبقاء المحتوى محدّثاً؟

هذا هو التصميم وراء قاعدة المعرفة في Northline AI: إجابات فقط من المحتوى المعتمد، مع ذكر المصادر، وحد للثقة، وتحويل إلى إنسان عند الشك، وسجل فجوات يستطيع فريقك مراجعته.

الخلاصة

لا يمكنك جعل النموذج اللغوي معصوماً من الخطأ. لكن يمكنك التأكد من أن وكيل الذكاء الاصطناعي لشركتك لا يتحدث إلا من معلوماتك المعتمدة، ويُظهر من أين جاءت كل إجابة، ويقول «لا أعرف» حين يجب. بعد قضية Air Canada، هذه ليست مجرد ممارسة جيدة، بل إدارة أساسية للمخاطر.