ساده‌ترین راه برای اینکه یک سازمان دستیار هوش مصنوعی داخلی داشته باشد، این است که یک مدل عمومی را به یک درایو مشترک وصل کنید و بگذارید کارکنان از آن سؤال بپرسند. این روش هم معمولاً به همان چند شکل مشخص خراب می‌شود. محتوای اینترانت به‌ندرت یک نسخه‌ی تمیز از حقیقت است، پیشنویسهای همپوشان، سیاستهای منسوخ‌شده، سندهایی بدون مالک مشخص، و مدلی که مجبور نیست بگوید جوابش از کجا آمده، به‌جای اعتراف به نامشخص بودن منبع، با اطمینان یک نسخه‌ی قابل‌قبول‌به‌نظر میسازد. الگوی سال ۲۰۲۶ که پژوهشگران برای این نوع خطا توصیف میکنند مشخص است: دستیار فقط اشتباه حدس نمی‌زند، بلکه به سیاستی استناد میکند که اصلاً وجود ندارد، با همان لحن صیقلی یک جواب درست، دقیقاً به همین دلیل است که کارکنان دیگر آن را چک نمی‌کنند.
کنترل دسترسی یک نوع خطای جداست، و به همان اندازه رایج. دستیار عمومی‌ای که هر چیزی در درایو مشترک به آن داده شده، به سؤال همه از همان استخر اسناد جواب می‌دهد، کارآموزی که یک سؤال بی‌ضرر می‌پرسد و مدیری که درباره‌ی یک موضوع حقوقی می‌پرسد، از همان پنجره‌ی context استفاده میکنند، مگر اینکه چیزی در مسیر بالادست فعالانه بر اساس اینکه چه کسی سؤال می‌پرسد فیلتر کند. اضافه کردن این فیلتر بعد از اینکه دستیار از قبل از یک انبوه اسناد صاف جواب می‌دهد، مسئله‌ای بسیار سخت‌تر از ساختنش از ابتدا است. همین پرسش دربارهٔ ابزارهایی که دستیار صدا می‌زند هم مطرح است، نه فقط اسنادی که می‌خواند؛ یک سرور MCP مخرب به هر چیزی که ایجنت دسترسی دارد دسترسی پیدا میکند.
جواب باید منبعش را نام ببرد، یا بگوید ندارد
پاسخ فنمایند به مسئله‌ی استناد، ساختاری است نه یک ترفند پرامپت‌نویسی: هر پاسخ موظف است به یک سند و صفحه‌ی مشخص اشاره کند، و وقتی محتوای زیربنایی از یک جواب مطمئن پشتیبانی نمیکند، دستیار طوری ساخته شده که این را بگوید، نه اینکه خلأ را با چیزی روان پر کند. این یعنی دستیاری محدودتر از یک مدل عمومی، سؤال‌هایی را رد میکند که یک مدل گسترده‌تر با خوشحالی حدس می‌زد، اما یعنی کارمندی که یک جواب می‌خواند میتواند برود همان صفحه را چک کند، درست مثل چک کردن یک استناد در هر منبع دیگر.
دستیار باید بداند چه کسی می‌پرسد، نه فقط چه می‌پرسد
کنترل دسترسی سازمانی در فنمایند در همان سطح خودِ اسناد اجرا می‌شود: سؤال یک کاربر مشخص فقط از چیزی جواب داده می‌شود که آن کاربر واقعاً اجازه‌ی دیدنش را دارد، یعنی همان دستیار هم به سؤال‌های روزمره‌ی سیاست یک بخش جواب می‌دهد و هم به یک موضوع حساس منابع انسانی یا حقوقی، بدون اینکه هیچ‌کدام به context دیگری نشت کند. جست‌وجوی وب محدود فقط در مواردی فعال می‌شود که واقعاً لازم است، نه به‌طور پیش‌فرض برای همه‌چیز، و یک چرخه‌ی تحلیل/بازخورد جواب‌هایی که کارکنان اشتباه علامت می‌زنند را نشان می‌دهد تا مسئول حاکمیت داده بتواند سند منبع را اصلاح کند، نه فقط همان یک جواب بد را. اینکه خود مدل کجا اجرا شود یک تصمیم حاکمیتی جداست که در on-premise یا cloud: چرا فنمایند هر دو را پشتیبانی میکند به آن پرداخته‌ایم.
کنترل دسترسی وقتی معنا دارد که کاربران بتوانند واقعاً چیزی پیدا کنند؛ بخش جست‌وجو را در چرا آرشیو چندهزار سندی شما عملاً قابل استفاده نیست توضیح داده‌ایم.
پرسش‌های متداول
چرا دستیارهای هوش مصنوعی سازمانی به سیاستهایی استناد میکنند که وجود ندارد؟
چون چیزی آنها را مجبور نمیکند بگویند پاسخ از کجا آمده. محتوای اینترانت پر از پیشنویسهای همپوشان، سیاستهای منسوخ و اسناد بیصاحب است، پس یک مدل عمومی نسخهای باورپذیر میسازد و ممکن است به سیاستی ناموجود استناد کند، با همان لحن مطمئنی که پاسخ درست دارد.
دسترسی‌ها در دستیار هوش مصنوعی سازمانی چطور باید کنترل شود؟
هر پرسش باید فقط از اسنادی پاسخ داده شود که پرسنده اجازهٔ دیدنشان را دارد. بدون این فیلتر، کارآموزی با یک سؤال ساده و مدیری که دربارهٔ موضوعی حقوقی می‌پرسد از یک مجموعهٔ اسناد پاسخ می‌گیرند. ساختن این فیلتر از ابتدا بسیار ساده‌تر از افزودنش در ادامه است.
وقتی اسناد پاسخی ندارند، دستیار هوش مصنوعی چه باید بکند؟
باید همین را بگوید و جای خالی را با متن روان پر نکند. فنمایند هر پاسخ را ملزم میکند به یک سند و صفحهٔ مشخص ارجاع دهد و وقتی محتوا پاسخ مطمئنی ندارد، پاسخ نمیدهد. این دستیار محدودتر از یک مدل عمومی است، اما کارمند میتواند صفحهٔ منبع را بررسی کند.
