ذهب معظم الاهتمام في قائمة EDUCAUSE لأهم عشر قضايا لعام 2027 إلى البند الأول، "تحديد أين يضيف الذكاء الاصطناعي قيمة حقيقية". وقد كتبنا عنه في طريقة صغيرة لمعرفة أين يستحق الذكاء الاصطناعي. أما هذا المقال فيتناول بندين أدنى في القائمة يحددان إن كان هذا البحث سيجري بأمان: البند الرابع "تصميم هياكل الذكاء الاصطناعي من أجل ابتكار مسؤول"، والبند السابع "بناء عمود فقري قوي ومرن لحوكمة البيانات" (القائمة كاملة كما نشرتها Campus Technology).
نص EDUCAUSE في البند الرابع أوضح من عنوانه. فهو يقول إن المؤسسات تحتاج إلى "مساحات آمنة للتجريب"، وإن "الحدود والضمانات يجب أن تكون قائمة"، وإن بعض الفرق تبني "بيئات تجريب معزولة وحدائق مسوّرة وهياكل آمنة أخرى". ويضيف البند السابع أن الحاجة إلى بيانات موثوقة تصبح "أكثر إلحاحًا" مع دخول الذكاء الاصطناعي. لكن أيًّا من البندين لا يقول ماذا تفعل صباح الاثنين. وفيما يلي القائمة التي نستخدمها عندما تسألنا جامعة هذا السؤال.
رأينا أولًا
كثير من سياسات الذكاء الاصطناعي الجامعية التي قرأناها وثيقة واحدة عن النزاهة الأكاديمية واستخدام الطلاب. هذا مهم، لكنه لا يقول شيئًا عن موظف في مكتب التسجيل يلصق كشف درجات في روبوت محادثة، أو قسم يشتري أداة تلخيص ببطاقة ائتمان. الحوكمة الخاصة باستخدام الموظفين والإدارات هي الفجوة في العادة، وهي أيضًا المكان الذي توجد فيه البيانات الشخصية.
القائمة
اعرف ما يعمل بالفعل
- جرد لأدوات الذكاء الاصطناعي المستخدمة. الاسم، والمسؤول، ومن يدفع، وأي بيانات تدخل إليها. توقّع أن تجد أكثر مما وافق عليه فريق تقنية المعلومات المركزي. ابدأ من سجلات المشتريات والمصروفات، لا من استبيان.
- نموذج من صفحة واحدة لأي استخدام جديد. ما المهمة، وأي بيانات، ومن سيستخدمها، وكيف ستعرف أنها نجحت. إذا استغرق ملء النموذج أكثر من ساعة فسيتجاوزه الناس.
البيانات قبل النماذج
- تصنيفات بيانات مرتبطة بالمكان المسموح فيه بمعالجتها. مثلًا: عامة (أي أداة معتمدة)، داخلية (أدوات معتمدة بموجب عقد)، بيانات شخصية (استضافة تتحكم فيها المؤسسة أو مقيّدة تعاقديًا فقط)، بيانات بحثية أو صحية مقيّدة (لا أدوات ذكاء اصطناعي عامة). جدول من أربعة صفوف أفضل من سياسة من أربعين صفحة.
- مسؤول وتاريخ مراجعة لكل مجموعة مستندات يقرؤها المساعد. هذا هو البند السابع عمليًا. فالمساعد سيقتبس جدول رسوم العام الماضي بثقة كاملة إن لم يسحبه أحد.
- الصلاحيات تتبع الهوية. يجب أن يجيب المساعد فقط من المستندات التي يحق للسائل فتحها، باستخدام مجموعات الدخول الموحد نفسها المستخدمة في كل شيء آخر. وشرحنا لماذا لا يمكن إضافة ذلك لاحقًا في لماذا لا يمكن لمساعد ذكاء اصطناعي عام أن يقرأ مستندات مؤسستك فحسب.
بيئة التجريب، بقواعد مكتوبة
- بيئة تجريب بحدود مكتوبة. أي تصنيفات بيانات مسموحة داخلها، ومن يمكنه الانضمام، وكم يمكن أن تستمر التجربة. البيانات الاصطناعية أو العامة هي الافتراض.
- معايير خروج متفق عليها قبل بدء التجربة. أي نتيجة تعني "نوسّع"، وأيها تعني "نتوقف"، وموعد القرار. التجارب بلا تاريخ نهاية هي الطريقة التي تنتهي بها الجامعات بعشرات التراخيص التي لا يعرف أحد ماذا قدّمت.
المزوّدون والأدوات التي يستدعيها المساعد
- خمسة أسئلة تعاقدية لكل مزوّد ذكاء اصطناعي. هل تُستخدم بياناتنا في التدريب؟ كم تُحفظ الطلبات والمخرجات؟ أين تُعالج؟ ما المعالجون الفرعيون؟ هل يمكننا تصدير كل شيء وحذفه عند الانتهاء؟
- قائمة بالموصلات والأدوات التي يستطيع كل مساعد استخدامها. المساعد الذي يرسل بريدًا أو يستعلم قاعدة بيانات يحمل صلاحيات كل ما يتصل به. وتغطي قائمتنا لمراجعة خوادم MCP ما يجب البحث عنه.
الأدلة والناس
- سجلات يمكن مراجعتها فعلًا. السؤال، والإجابة، والمستندات المستشهد بها، ودور المستخدم، مع مدة احتفاظ متفق عليها مع مكتب الخصوصية. بدونها لا يمكن لأحد أن يقول إن البند الأول قد تحقق.
- مجموعة مراجعة صغيرة تجتمع شهريًا وتضم متشككًا. يتحدث البند التاسع في EDUCAUSE عن الاستماع إلى المتشككين والمعارضين بدل تجاهلهم. ووضع أحدهم في المجموعة التي توافق على الاستخدامات هو أرخص طريقة لفعل ذلك.
- سجل علني للاستخدامات المعتمدة. صفحة واحدة يراجعها الموظف قبل أن يسأل "هل يُسمح لي باستخدام هذا؟". وهي تُظهر للطلاب وأعضاء هيئة التدريس ما قررته المؤسسة فعلًا.
كيف يتوافق ذلك مع إطار NIST
إذا أرادت مؤسستك إطارًا خارجيًا تستند إليه، فإن إطار إدارة مخاطر الذكاء الاصطناعي من NIST (صدر في 26 يناير 2023، واستخدامه طوعي) يجمع إرشاداته في أربع وظائف: الحوكمة، والتحديد، والقياس، والإدارة. وتذكر صفحة NIST نفسها وجود ترجمة عربية للإطار. تقريبًا، البنود 1 و2 و11 و12 أعلاه تقع تحت الحوكمة، والبنود من 3 إلى 6 و8 و9 تحت التحديد، والبندان 7 و10 تحت القياس، والعمل وفق معايير الخروج هو الإدارة. وتشير NIST في الصفحة ذاتها إلى أن النسخة 1.0 قيد المراجعة، فتحقق من النسخة الأحدث قبل الاستشهاد بأرقام الأقسام في أي سياسة.
ترتيب معقول
لا تحاول تنفيذ البنود الاثني عشر دفعة واحدة. البنود 1 و3 و4 يمكن أن ينجزها شخصان في شهر، وتسهّل كل قرار بعدها. ثم اختر مكتبًا واحدًا، وأجرِ تجربة وفق البنود 6 و7 و10، واكتب السجل العلني (البند 12) مما تتعلمه. ويمكن أن يأتي الباقي بعد التجربة الثانية. وحافظ على صدق المساعد بشأن الفجوات: فالمساعد الذي يجيب فقط من مصادر مستشهد بها ويقول "لا أعرف" في غير ذلك أسهل بكثير في الحوكمة، كما ذكرنا في استشهد أو ارفض.
بُني FanMind، مساعد المستندات الذي طورناه، حول عدد من هذه البنود: الإجابات تأتي فقط من المستندات المرفوعة مع إحالة إلى الصفحة، والصلاحيات تتبع أدوار الدخول الموحد، والأسئلة التي لا إجابة لها تُسجَّل لمسؤول المحتوى، ويمكن تشغيله على خوادم الجامعة نفسها. تعرّف على طريقة عمل FanMind.
الأسئلة الشائعة
أي بند في قائمة EDUCAUSE لعام 2027 يتناول حوكمة الذكاء الاصطناعي؟
البند الرابع، "تصميم هياكل الذكاء الاصطناعي من أجل ابتكار مسؤول". وهو يدعو إلى ضوابط وقيم ومعايير مؤسسية إلى جانب مساحات آمنة للتجريب مثل البيئات المعزولة. والبند السابع عن حوكمة البيانات هو الأقرب إليه.
ماذا يجب أن تتضمن سياسة حوكمة الذكاء الاصطناعي في الجامعة؟
على الأقل: جرد للأدوات المستخدمة، وتصنيفات بيانات مرتبطة بأماكن المعالجة المسموحة، ومسؤولين عن المستندات التي تقرؤها الأدوات، وصلاحيات مرتبطة بأدوار الدخول الموحد، وشروطًا تعاقدية للمزوّدين، وسجلات قابلة للمراجعة، وسجلًا علنيًا للاستخدامات المعتمدة.
ما بيئة تجريب الذكاء الاصطناعي في التعليم العالي؟
بيئة مضبوطة يجرّب فيها الموظفون وأعضاء هيئة التدريس أدوات الذكاء الاصطناعي ضمن حدود مكتوبة مسبقًا: أي بيانات مسموحة، ومن يمكنه الانضمام، وكم تستمر التجربة. وتذكر EDUCAUSE البيئات المعزولة والحدائق المسوّرة، والاتحادات للمؤسسات التي لا تستطيع بناء بيئتها الخاصة.
هل يمكن للجامعات استخدام إطار NIST لإدارة مخاطر الذكاء الاصطناعي؟
نعم. فهو طوعي وغير مخصص لقطاع بعينه، ووظائفه الأربع (الحوكمة، والتحديد، والقياس، والإدارة) تعطي السياسة بنية معروفة. وتقول NIST إن النسخة 1.0 قيد المراجعة، فتحقق من النص الحالي أولًا.
