نمط الفشل الذي يقتل الثقة في مساعد ذكاء اصطناعي داخلي ليس إجابة خاطئة مصحوبة بتحفظ. إنه إجابة خاطئة معلنة بنفس ثقة الإجابة الصحيحة — لأن النموذج لا يختبر «لا أعرف هذا فعليًا» بشكل مختلف عن «أعرف هذا تمامًا». إذا تُرك وحده، يملأ الفجوة بشيء يبدو معقولًا، وموظف يتصرف بناءً عليه ليس لديه طريقة لمعرفة الفرق.
لماذا لا يُصلح موجّه (prompt) أفضل هذا
«أجب فقط من السياق المُقدَّم» طلب، لا قيد — يمكن للنموذج اتباعه 95% من الوقت والهلوسة في الـ5% الباقية، وتلك الـ5% هي بالضبط الحالة التي لا يتحقق منها أحد، لأن كل شيء آخر قاله كان دقيقًا. التوجيه يقلل معدل الفشل. لا يزيل نمط الفشل. إذا اعتمدت الصدق على اختيار النموذج أن يكون صادقًا، سيختار الخطأ في النهاية.
ما يزيل نمط الفشل بدلًا من تقليله
قراران بنيويان، لا جملتا تعليمات أفضل:
- تُبنى الاستشهادات من جانب الخادم مما استُرجع فعليًا — لا تُطلب من النموذج بعد الحقيقة. يمكن للإجابة الإشارة فقط لجزء مستند موجود أمامها، لأن قائمة الاستشهادات تُجمَّع من نتائج الاسترجاع مباشرة، لا تُولَّد كنص جنبًا إلى جنب مع الإجابة. لا مسار للنموذج للاستشهاد بشيء اختلقه، لأنه لا يكتب الاستشهاد بنفسه أبدًا.
- بوابة ثقة استرجاع، لا طلب بالحذر — عندما لا يتجاوز أي شيء مسترجَع الحد الأدنى لدرجة الصلة، يُرجع النظام رفضًا بدلاً من أن يطلب من النموذج توليد إجابة أصلًا. لا يُوضَع النموذج أبدًا في موقف تمديد تطابق هامشي إلى إجابة واثقة، لأنه لا يُعرض عليه أبدًا ذلك التطابق الهامشي وكأنه كافٍ.
للبوابة وظيفة ثانية: إخبارك بما هو مفقود فعليًا
كل رفض يستحق التسجيل، لا العرض فقط. مجموعة من الأسئلة المرفوضة حول نفس الموضوع إشارة مباشرة لا لبس فيها أن مستندًا حقيقيًا مفقود من الفهرس — ليست ضوضاء يجب تجاهلها، بل أكثر تغذية راجعة مفيدة ينتجها النظام. رفض لا يؤدي لشيء إشارة مهدورة؛ رفض يصبح مهمة لمسؤول المحتوى هو كيف تتحسن قاعدة المعرفة فعليًا مع الوقت بدلًا من أن تكبر فقط.
لا شيء من هذا يجعل المساعد أقل فائدة. بل يجعل «لا أعرف» إجابة مشروعة ومتوقعة بدلًا من حالة حدّية لم يُبنَ النموذج فعليًا لإعطائها — وهذه هي الطريقة الوحيدة التي تكون بها «نعم» جديرة بالثقة أيضًا.
