سادهترین راه برای اینکه یک سازمان دستیار هوش مصنوعی داخلی داشته باشد، این است که یک مدل عمومی را به یک درایو مشترک وصل کنید و بگذارید کارکنان از آن سؤال بپرسند. این روش هم معمولاً به همان چند شکل مشخص خراب میشود. محتوای اینترانت بهندرت یک نسخهی تمیز از حقیقت است — پیشنویسهای همپوشان، سیاستهای منسوخشده، سندهایی بدون مالک مشخص — و مدلی که مجبور نیست بگوید جوابش از کجا آمده، بهجای اعتراف به نامشخص بودن منبع، با اطمینان یک نسخهی قابلقبولبهنظر میسازد. الگوی سال ۲۰۲۶ که پژوهشگران برای این نوع خطا توصیف میکنند مشخص است: دستیار فقط اشتباه حدس نمیزند، بلکه به سیاستی استناد میکند که اصلاً وجود ندارد، با همان لحن صیقلی یک جواب درست — دقیقاً به همین دلیل است که کارکنان دیگر آن را چک نمیکنند.
کنترل دسترسی یک نوع خطای جداست، و به همان اندازه رایج. دستیار عمومیای که هر چیزی در درایو مشترک به آن داده شده، به سؤال همه از همان استخر اسناد جواب میدهد — کارآموزی که یک سؤال بیضرر میپرسد و مدیری که دربارهی یک موضوع حقوقی میپرسد، از همان پنجرهی context استفاده میکنند، مگر اینکه چیزی در مسیر بالادست فعالانه بر اساس اینکه چه کسی سؤال میپرسد فیلتر کند. اضافه کردن این فیلتر بعد از اینکه دستیار از قبل از یک انبوه اسناد صاف جواب میدهد، مسئلهای بسیار سختتر از ساختنش از ابتدا است.
جواب باید منبعش را نام ببرد، یا بگوید ندارد
پاسخ فنمایند به مسئلهی استناد، ساختاری است نه یک ترفند پرامپتنویسی: هر پاسخ موظف است به یک سند و صفحهی مشخص اشاره کند، و وقتی محتوای زیربنایی از یک جواب مطمئن پشتیبانی نمیکند، دستیار طوری ساخته شده که این را بگوید، نه اینکه خلأ را با چیزی روان پر کند. این یعنی دستیاری محدودتر از یک مدل عمومی — سؤالهایی را رد میکند که یک مدل گستردهتر با خوشحالی حدس میزد — اما یعنی کارمندی که یک جواب میخواند میتواند برود همان صفحه را چک کند، درست مثل چک کردن یک استناد در هر منبع دیگر.
دستیار باید بداند چه کسی میپرسد، نه فقط چه میپرسد
کنترل دسترسی سازمانی در فنمایند در همان سطح خودِ اسناد اجرا میشود: سؤال یک کاربر مشخص فقط از چیزی جواب داده میشود که آن کاربر واقعاً اجازهی دیدنش را دارد — یعنی همان دستیار هم به سؤالهای روزمرهی سیاست یک بخش جواب میدهد و هم به یک موضوع حساس منابع انسانی یا حقوقی، بدون اینکه هیچکدام به context دیگری نشت کند. جستوجوی وب محدود فقط در مواردی فعال میشود که واقعاً لازم است، نه بهطور پیشفرض برای همهچیز، و یک چرخهی تحلیل/بازخورد جوابهایی که کارکنان اشتباه علامت میزنند را نشان میدهد تا مسئول حاکمیت داده بتواند سند منبع را اصلاح کند، نه فقط همان یک جواب بد را.
