أنظمة الذكاء الاصطناعي تسجّل المخرجات. والمحاكم ستطلب القرارات.

كل مؤسسة تنشر الذكاء الاصطناعي في مجال ذي تبعات جوهرية — الإقراض، القانون، التأمين، التوظيف — تبني سجل تدقيق. ومعظم هذه السجلات ستكون عديمة الجدوى عند الطعن في قرار ما. ليس لأن السجلات ناقصة، بل لأنها تسجّل الشيء الخطأ.

بُنيت بنية التدقيق التقليدية حول الأحداث: اتُّخذ إجراء، من قِبل جهة فاعلة محددة، في وقت محدد، أنتج تغييراً محدداً في حالة النظام. والثابت هنا هو قابلية إعادة البناء. فإذا أعدت تشغيل سجل الأحداث، أمكنك إعادة تكوين ما حدث. هذا ما يجعل أثر التدقيق ذا معنى قانوني. ليس مجرد كونه موجوداً، بل كونه قادراً على إثبات شيء ما.

إن الاستدلال بالذكاء الاصطناعي ليس حدثاً بهذا المعنى. فقرار الذكاء الاصطناعي دالّة. تأخذ مدخلات وتنتج مخرَجاً. والمخرَج ليس هو القرار — بل هو نتيجة دالّة القرار مطبَّقة على مجموعة محددة من المدخلات في ظل ظروف محددة. وإذا سجّلت المخرَج فقط، فإنك تكون قد سجّلت الإجابة دون تسجيل السؤال، ولا النموذج الذي أجاب عليه، ولا السياق الذي أُعطي له، ولا المعاملات التي عمل في ظلها. عندئذٍ يكون لديك إيصال، لا أثر.

المدخلات الأربعة التي تحدّد القرار

إن القرار الذي ينتجه نموذج لغوي تحدّده، كحدٍّ أدنى، أربعة متغيرات مستقلة.

مُدخَل المستخدم: المستند أو الاستعلام أو الموجّه (prompt) المُقدَّم وقت الاستدلال. ومعظم المؤسسات تسجّل هذا. فهو الأسهل.

الموجّه النظامي (system prompt): التعليمات التي تؤطّر سلوك النموذج، وتقيّد مخرجاته، وتحدّد دوره في خط المعالجة. والموجّهات النظامية تتغيّر. تُحدَّث بصمت، دون تأريخ للإصدارات، مع تكرار الفرق على ضبط سلوك النموذج. وإذا تعذّر عليك إنتاج الموجّه النظامي الدقيق المستخدَم وقت استدلال محدد، فلن تتمكن من إعادة بناء ما أُمر النموذج بفعله.

إصدار النموذج: ليس اسم النموذج. الإصدار. فـ"GPT-4" ليس إصداراً للنموذج. وإذا حدّث مزوّد نموذجاً خلف نقطة وصول API مستقرة، وهو ما يحدث، فإن قيد سجلك "GPT-4" يتوافق مع نموذجين مختلفين ينتجان مخرَجين مختلفين للمُدخَل نفسه. عندئذٍ يكون القرار غير قابل لإعادة البناء.

سياق الاسترجاع: إذا كان النظام يستخدم التوليد المعزَّز بالاسترجاع (RAG)، فإن المستندات المُسترجَعة جزء من دالّة القرار. وفهرس الاسترجاع يتغيّر بمرور الوقت. تُضاف مستندات، وتُهمَل أخرى، ويُعاد تقطيعها، ويُعاد تضمينها (re-embedded). فنتيجة الاسترجاع للاستعلام نفسه اليوم ليست هي نتيجة الاسترجاع قبل ستة أشهر. وما لم يُسجَّل السياق المُسترجَع وقت الاستدلال، فلن يمكن إعادة إنتاج القرار.

إن أيّاً من هذه، إن لم يُسجَّل أو لم يُؤرَّخ إصداره، يجعل القرار غير قابل للاستعادة.

لماذا تفشل سجلات المخرجات في اللحظة التي تُختبَر فيها

إن نمط الإخفاق غير مرئي في التشغيل العادي. فسجل المخرجات يعمل جيداً للمراقبة والتحليلات وتصحيح الأخطاء. لكنه يفشل تحديداً حين تكون في أمسّ الحاجة إليه: عند الطعن في قرار.

تأمّل السيناريو. يُطعَن في قرار آلي ذي تبعات جوهرية بعد اثني عشر شهراً من اتخاذه. وقد حُدِّث النموذج منذ ذلك الحين. وجرى تحديث فهرس الاسترجاع. ونُقِّح الموجّه النظامي مرتين. ويسأل صاحب الطعن، بحق: ماذا كان يعرف نظامك حين اتخذ هذا القرار، ولماذا قرّر بهذه الطريقة؟

يجيب سجل المخرجات: لقد قرّر هذا. لكنه لا يجيب عن: على أيّ أساس.

هذا هو الفرق بين التسجيل والمساءلة. فالسجل يخبرك بما حدث. أما سجل المساءلة فيخبرك بالسبب، في صيغة يمكن التحقق منها وإعادة إنتاجها والدفاع عنها. والأطر التنظيمية ذات الأهمية بدأت تفرض هذا التمييز سواء كانت المؤسسات مستعدة له أم لا.

ما تتطلّبه الأطر التنظيمية فعلياً

تشترط المادة 12 من قانون الذكاء الاصطناعي للاتحاد الأوروبي (EU AI Act) أن تتيح أنظمة الذكاء الاصطناعي عالية المخاطر "تقنياً التسجيل التلقائي للأحداث (السجلات) على مدى دورة حياة النظام"، مع نطاق قدرات تسجيل يضمن مستوى من إمكانية التتبّع "مناسباً للغرض المقصود من النظام" (اللائحة (الاتحاد الأوروبي) 2024/1689، المادة 12(1)–(2)). وبموجب المادة 22 من اللائحة العامة لحماية البيانات (GDPR)، يحق للأفراد ألا يخضعوا لقرار يستند حصرياً إلى المعالجة الآلية — بما في ذلك التنميط (profiling) — التي تُنتج آثاراً قانونية أو آثاراً ذات أهمية مماثلة، وحيثما تكون هذه المعالجة مسموحاً بها، تمنحهم المادة 22(3) ضمانات تشمل التدخّل البشري، والحق في التعبير عن وجهة نظرهم، والحق في الطعن في القرار؛ أما "الحق في التفسير" بصفته كذلك فليس وارداً في نص المادة 22 بل يُستمَد من الحيثية (Recital) 71 غير المُلزِمة ومن واجبات الشفافية في المواد 13–15، التي تتطلب "معلومات ذات معنى عن المنطق المُتَّبَع". أما إطار إدارة مخاطر النماذج الخاص بهيئة التنظيم الاحترازي (PRA) — البيان الإشرافي SS1/23، "مبادئ إدارة مخاطر النماذج للبنوك" — فيتوقّع من الشركات الاحتفاظ بتوثيق مفصَّل بما يكفي لتمكين طرف مستقل من فهم نتائج النموذج وإعادة إنتاجها، بما يدعم قابلية التدقيق وحوكمة النماذج الفعّالة.المصادر: قانون الذكاء الاصطناعي للاتحاد الأوروبي، المادة 12 (حفظ السجلات) — اللائحة (الاتحاد الأوروبي) 2024/1689 · المادة 22 من اللائحة العامة لحماية البيانات (النص الكامل)، gdpr-info.eu · بنك إنجلترا (PRA) — SS1/23، "مبادئ إدارة مخاطر النماذج للبنوك"

لا تحدّد أيٌّ من هذه اللوائح ما يعنيه التسجيل تقنياً. والمحكمة أو الجهة التنظيمية التي تفسّرها ستطبّق معياراً غائياً: هل يتيح السجل إعادة بناء القرار وتفسيره؟ إن سجل المخرجات لا يفي بهذا المعيار. أما سجل "المخرَج زائد السياق زائد إصدار النموذج" فيفي به.

والنتيجة العملية هي أن المؤسسات التي تبني الذكاء الاصطناعي فوق واجهات برمجية عامة الغرض دون التزام بالإصدار ودون تسجيل للاسترجاع تراكِم مسؤولية قانونية تظل غير مرئية حتى الطعن في قرار، وعند تلك اللحظة تكون المدخلات اللازمة لإعادة البناء قد زالت.

كيف يبدو السجل القابل لإعادة بناء القرار فعلياً

إن الحدّ الأدنى القابل للتطبيق من سجل المساءلة لقرار ذكاء اصطناعي يتضمن: بصمة تجزئة (hash) لمُدخَل المستخدم وقت الاستدلال. والموجّه النظامي الدقيق المستخدَم، مؤرَّخاً ومُجزَّأً (versioned and hashed). ومُعرِّف نموذج يلتزم بأوزان محددة، أي مُعرِّف نشر مُجمَّد (frozen deployment ID) أو مرجع لقطة على مستوى المزوّد، لا اسماً. والسياق المُسترجَع إن وُجد: مُعرِّفات المستندات، وبصمات تجزئة المحتوى، وطابع زمني للاسترجاع. ومعاملات الاستدلال: درجة الحرارة (temperature)، وتهيئة العيّنة (sampling configuration)، وأيّ شيء يؤثر في عشوائية المخرَج. والمخرَج، مُجزَّأً ومُؤرَّخاً زمنياً. والقرار اللاحق إن كان المخرَج يغذّي خطوة قائمة على قواعد أو مراجَعة بشرياً.

وهذا ليس حجماً كبيراً من البيانات. فسياق الاسترجاع هو المكوّن الأكبر في أنظمة RAG، لكنه محدود بنافذة السياق. وما تبقّى هو بيانات وصفية (metadata). وتكلفة تخزينه ضئيلة مقارنة بتكلفة عدم القدرة على إنتاجه.

الاختبار

إذا تعذّر عليك إعادة إنتاج قرار ذكاء اصطناعي انطلاقاً من قيد في السجل — أي تشغيل المدخلات نفسها عبر إصدار النموذج نفسه بالموجّه النظامي نفسه وسياق الاسترجاع نفسه والوصول إلى المخرَج نفسه — فإن سجلك ليس أثر تدقيق. إنه تاريخ مخرجات.

تواريخ المخرجات مفيدة. لكنها ليست قابلة للدفاع عنها.

إن المؤسسات التي ستكون في أقوى موقف عند الطعن في القرارات الآلية ليست بالضرورة تلك التي تملك أفضل النماذج. بل هي التي عاملت التسجيل كمسألة في هندسة القرار منذ البداية، قبل أن يُطعَن في أيّ قرار.

إن الوقت المناسب لبناء تلك الهندسة هو قبل النزاع، لا بعده.