رفتن به محتوا
آموزش عالی

چک‌لیست حاکمیت هوش مصنوعی در دانشگاه: موارد ۴ و ۷ فهرست EDUCAUSE 2027

EDUCAUSE ساختارهای هوش مصنوعی را چهارم و حاکمیت داده را هفتم فهرست ۲۰۲۷ گذاشته، ولی درباره این‌که اول چه چیزی را راه بیندازید حرف زیادی نمی‌زند. دوازده مورد مشخص: فهرست ابزارها، دسته‌بندی داده، مسئول اسناد، قواعد sandbox، معیارهای خروج، شرایط فروشنده و لاگ‌ها.

H
Hamze Zare Nasiri
۲۳ مهر ۱۴۰۵
چک‌لیست حاکمیت هوش مصنوعی در دانشگاه: موارد ۴ و ۷ فهرست EDUCAUSE 2027

بیشترِ توجه به فهرست ده موضوع برتر EDUCAUSE برای ۲۰۲۷ روی مورد اول رفت: «تشخیص این‌که هوش مصنوعی کجا ارزش واقعی اضافه می‌کند». ما دربارهٔ همین در یک روش کوچک برای پیدا کردن جایی که هوش مصنوعی واقعاً می‌ارزد نوشته‌ایم. این مطلب دربارهٔ دو مورد پایین‌تر فهرست است که تعیین می‌کنند آن جست‌وجو می‌تواند امن انجام شود یا نه: مورد ۴، «طراحی ساختارهای هوش مصنوعی برای نوآوری مسئولانه»، و مورد ۷، «ساختن ستون فقراتی قوی و انعطاف‌پذیر برای حاکمیت داده» (فهرست کامل به روایت Campus Technology).

متن EDUCAUSE برای مورد چهارم صریح‌تر از عنوانش است. می‌گوید مؤسسه‌ها «به فضاهای امن برای آزمایش» هوش مصنوعی نیاز دارند، «مرزها و سازوکارهای حفاظتی باید برقرار باشند»، و برخی تیم‌ها در حال ساختن «sandboxها، باغ‌های محصور و دیگر ساختارهای امن» هستند. مورد هفتم اضافه می‌کند که با ورود هوش مصنوعی، نیاز به دادهٔ قابل اعتماد «حتی فوری‌تر می‌شود». هیچ‌کدام نمی‌گوید از اولین روز کاری هفته چه چیزی را راه بیندازید. در ادامه چک‌لیستی را می‌آوریم که وقتی دانشگاهی همین سؤال را از ما می‌پرسد به کار می‌بریم.

اول دیدگاه خودمان

خیلی از سیاست‌های هوش مصنوعی دانشگاه‌ها که خوانده‌ایم، یک سند دربارهٔ صداقت علمی و استفادهٔ دانشجویان است. این مهم است، ولی هیچ حرفی دربارهٔ کارمند ادارهٔ آموزش نمی‌زند که کارنامهٔ یک دانشجو را در یک چت‌بات می‌چسباند، یا دانشکده‌ای که یک ابزار خلاصه‌سازی را با کارت اعتباری می‌خرد. حاکمیت روی استفادهٔ کارکنان و بخش‌های اداری معمولاً همان حلقهٔ گمشده است، و دادهٔ شخصی هم دقیقاً همان‌جاست.

چک‌لیست

بدانید از قبل چه چیزهایی در حال اجراست

  1. فهرستی از ابزارهای هوش مصنوعی در حال استفاده. نام، مسئول، چه کسی هزینه را می‌دهد، چه داده‌ای واردش می‌شود. انتظار داشته باشید بیشتر از چیزی پیدا کنید که تیم مرکزی IT تأیید کرده. از سوابق خرید و هزینه شروع کنید، نه از پرسش‌نامه.
  2. یک فرم یک‌صفحه‌ای برای ثبت کاربردهای جدید. کار چیست، چه داده‌ای، چه کسی استفاده می‌کند، از کجا می‌فهمید جواب داده. اگر پر کردن فرم بیشتر از یک ساعت طول بکشد، آدم‌ها راهی برای دور زدنش پیدا می‌کنند.

اول داده، بعد مدل

  1. دسته‌بندی داده‌ها و این‌که هر دسته کجا اجازهٔ پردازش دارد. مثلاً: عمومی (هر ابزار تأییدشده)، داخلی (ابزارهای تأییدشده با قرارداد)، دادهٔ شخصی (فقط میزبانی تحت کنترل مؤسسه یا با محدودیت قراردادی)، دادهٔ پژوهشی یا سلامت محرمانه (هیچ ابزار هوش مصنوعی عمومی). چهار ردیف در یک جدول از یک سیاست چهل‌صفحه‌ای بهتر کار می‌کند.
  2. برای هر مجموعه سندی که یک دستیار می‌خواند، یک مسئول و یک تاریخ بازبینی. مورد هفتم در عمل همین است. اگر کسی جدول شهریهٔ پارسال را بازنشسته نکند، دستیار با اطمینان کامل از آن نقل قول می‌کند.
  3. دسترسی تابع هویت است. دستیار باید فقط از اسنادی جواب بدهد که پرسنده اجازهٔ باز کردنشان را دارد، با همان گروه‌های ورود یکپارچه (SSO) که برای بقیهٔ سامانه‌ها استفاده می‌شود. چرا این را نمی‌شود بعداً وصله کرد، در چرا یک دستیار هوش مصنوعی عمومی نمی‌تواند همین‌طور اسناد سازمان شما را بخواند توضیح داده‌ایم.

sandbox، اما با قاعده

  1. یک sandbox با محدودیت‌های مکتوب. چه دسته‌هایی از داده داخلش مجازند، چه کسانی می‌توانند عضو شوند، یک پایلوت چقدر می‌تواند طول بکشد. پیش‌فرض، دادهٔ مصنوعی یا عمومی است.
  2. معیارهای خروج که قبل از شروع پایلوت توافق شده‌اند. چه نتیجه‌ای یعنی «گسترشش بدهیم»، چه نتیجه‌ای یعنی «متوقفش کنیم»، و تاریخی که تصمیم می‌گیرید. پایلوت‌های بدون تاریخ پایان همان راهی است که دانشگاه‌ها را به ده‌ها لایسنس می‌رساند که هیچ‌کس نمی‌داند برای چیست.

فروشنده‌ها و ابزارهایی که دستیار می‌تواند صدا بزند

  1. پنج سؤال قراردادی برای هر فروشندهٔ هوش مصنوعی. آیا از دادهٔ ما برای آموزش مدل استفاده می‌شود؟ پرامپت‌ها و خروجی‌ها چه مدت نگه داشته می‌شوند؟ کجا پردازش می‌شوند؟ چه پیمانکاران فرعی‌ای درگیرند؟ آیا در پایان می‌توانیم همه چیز را خروجی بگیریم و حذف کنیم؟
  2. فهرستی از connectorها و ابزارهایی که هر دستیار می‌تواند استفاده کند. دستیاری که می‌تواند ایمیل بفرستد یا از پایگاه داده کوئری بگیرد، همهٔ مجوزهای هر چیزی را که به آن وصل است با خودش دارد. چک‌لیست ممیزی سرورهای MCP ما می‌گوید دنبال چه چیزهایی باشید.

شواهد و آدم‌ها

  1. لاگ‌هایی که واقعاً بشود بازبینی‌شان کرد. سؤال، پاسخ، اسناد ارجاع‌داده‌شده، نقش کاربر، با مدت نگه‌داری‌ای که با دفتر حریم خصوصی توافق شده. بدون این‌ها هیچ‌کس نمی‌تواند بگوید مورد اول محقق شد یا نه.
  2. یک گروه بازبینی کوچک که ماهی یک بار جلسه دارد و یک منتقد هم در آن هست. مورد نهم EDUCAUSE از گوش دادن به «منتقدان و مخالفان به جای نادیده گرفتنشان» حرف می‌زند. گذاشتن یکی از آن‌ها در گروهی که کاربردها را تأیید می‌کند، ارزان‌ترین راه انجام این کار است.
  3. یک فهرست عمومی از کاربردهای تأییدشده. یک صفحه که کارکنان قبل از پرسیدن «اجازه دارم از این استفاده کنم؟» نگاهش کنند. این صفحه به دانشجویان و اعضای هیئت علمی هم نشان می‌دهد مؤسسه واقعاً چه تصمیمی گرفته است.

نسبت این چک‌لیست با NIST AI RMF

اگر مؤسسهٔ شما می‌خواهد به یک چارچوب بیرونی ارجاع بدهد، چارچوب مدیریت ریسک هوش مصنوعی NIST (منتشرشده در ۲۶ ژانویهٔ ۲۰۲۳، داوطلبانه) توصیه‌هایش را در چهار کارکرد دسته‌بندی کرده است: Govern، Map، Measure و Manage. به‌طور تقریبی، موارد ۱، ۲، ۱۱ و ۱۲ بالا Govern هستند، ۳ تا ۶ و ۸ تا ۹ Map، موارد ۷ و ۱۰ Measure، و عمل کردن بر اساس معیارهای خروج Manage. NIST در همان صفحه یادآوری می‌کند که AI RMF 1.0 در حال بازنگری است، پس قبل از این‌که در یک سیاست به شمارهٔ بخش‌ها ارجاع بدهید، نسخهٔ جدیدتر را بررسی کنید.

یک ترتیب معقول

سعی نکنید هر دوازده مورد را با هم انجام دهید. موارد ۱، ۳ و ۴ را دو نفر در یک ماه می‌توانند انجام دهند و هر تصمیم بعدی را ساده‌تر می‌کنند. بعد یک واحد را انتخاب کنید، یک پایلوت با موارد ۶، ۷ و ۱۰ اجرا کنید و فهرست عمومی (مورد ۱۲) را از چیزهایی که یاد گرفتید بنویسید. بقیه می‌تواند بعد از پایلوت دوم بیاید. و دستیار را دربارهٔ کمبودهایش صادق نگه دارید: دستیاری که فقط از منابع ارجاع‌داده‌شده جواب می‌دهد و در غیر این صورت می‌گوید «نمی‌دانم»، خیلی راحت‌تر تحت حاکمیت قرار می‌گیرد، همان‌طور که در ارجاع بده یا جواب نده استدلال کرده‌ایم.

FanMind، دستیار اسناد ما، حول چند مورد از همین فهرست ساخته شده است: پاسخ‌ها فقط از اسناد بارگذاری‌شده و با ارجاع به صفحه می‌آیند، دسترسی تابع نقش‌های ورود یکپارچه است، سؤال‌های بی‌پاسخ برای مسئول محتوا ثبت می‌شوند، و می‌تواند روی سرورهای خود دانشگاه اجرا شود. ببینید FanMind چطور کار می‌کند. معلوم شد که برای پذیرش، نحوهٔ ورود از همه مهم‌تر است؛ چرا ورود یکپارچه پذیرش را تعیین می‌کند را ببینید.

پرسش‌های متداول

کدام مورد از ده موضوع برتر EDUCAUSE 2027 به حاکمیت هوش مصنوعی مربوط است؟

مورد چهارم، «طراحی ساختارهای هوش مصنوعی برای نوآوری مسئولانه». این مورد در کنار فضاهای امنی مثل sandbox برای آزمایش، خواستار سازوکارهای حفاظتی، ارزش‌های سازمانی و استانداردهاست. مورد هفتم، دربارهٔ حاکمیت داده، نزدیک‌ترین مورد مرتبط است.

سیاست حاکمیت هوش مصنوعی یک دانشگاه چه چیزهایی باید داشته باشد؟

دست‌کم این‌ها: فهرست ابزارهای در حال استفاده، دسته‌بندی داده‌ها و جایی که هر دسته اجازهٔ پردازش دارد، مسئول برای اسنادی که ابزارهای هوش مصنوعی می‌خوانند، دسترسی وابسته به نقش‌های ورود یکپارچه، شرایط قراردادی برای فروشنده‌ها، لاگ‌های قابل بازبینی و یک فهرست عمومی از کاربردهای تأییدشده.

sandbox هوش مصنوعی در آموزش عالی یعنی چه؟

محیطی کنترل‌شده که کارکنان و اعضای هیئت علمی می‌توانند ابزارهای هوش مصنوعی را با محدودیت‌هایی که از قبل مکتوب شده امتحان کنند: چه داده‌ای مجاز است، چه کسانی می‌توانند عضو شوند و یک پایلوت چقدر طول می‌کشد. EDUCAUSE از sandboxها و باغ‌های محصور نام می‌برد، و از کنسرسیوم‌ها برای مؤسسه‌هایی که نمی‌توانند خودشان چنین چیزی بسازند.

آیا دانشگاه‌ها می‌توانند از NIST AI RMF استفاده کنند؟

بله. این چارچوب داوطلبانه است و مخصوص هیچ بخش خاصی نیست. چهار کارکرد آن (Govern، Map، Measure، Manage) به یک سیاست ساختاری شناخته‌شده می‌دهد. NIST می‌گوید نسخهٔ 1.0 در حال بازنگری است، پس اول متن فعلی را بررسی کنید.

منابع

دستیاری که حاکمیت بر آن ساده است

FanMind فقط از اسناد شما و با ارجاع به صفحه جواب می‌دهد، از نقش‌های ورود یکپارچه پیروی می‌کند، سؤال‌های بی‌پاسخ را ثبت می‌کند و روی سرورهای خودتان یا در فضای ابری اجرا می‌شود.

FanMind را ببینید

اشتراک‌گذاری این مقاله