الذكاء الاصطناعي القانوني بلا تدقيق خارجي وعدٌ بلا تحقّق

تركّز النقاش في التقنية القانونية على معايير الدقة، ومعدلات الهلوسة، ومقارنات النماذج. أما السؤال الذي حظي باهتمام أقل فهو سؤال بنيوي: مَن يشهد بأن النظام الذي ينتج التحليل القانوني يفعل فعليًا ما يدّعي أنه يفعله؟

هذا ليس سؤالًا تقنيًا. إنه سؤال حوكمة. وهو سؤال كان ينبغي للقطاع القانوني أن يطرحه منذ البداية.

مشكلة التدقيق في أدوات الذكاء الاصطناعي القانونية

تعمل معظم أدوات الذكاء الاصطناعي المنشورة في السياقات القانونية كأنظمة أحادية العقدة: يدخل مستند، ويخرج تحليل. وسلسلة الاستدلال بين المدخل والمخرج غامضة بحكم التصميم. لا يستطيع المستخدمون التحقق مما إذا كان النظام قد طبّق الإطار المعياري الصحيح، أو استرجع الاجتهاد القضائي ذا الصلة، أو ما إذا كان الاستشهاد موجودًا أم مُهلوَسًا، أو ما إذا كانت النتيجة التي توصّل إليها متسقة مع المصادر التي يدّعي أنه راجعها.

ينشر المورّدون معايير الدقة. والمعايير مفيدة، لكنها تقيس الأداء على مجموعات تقييم منتقاة بعناية، لا على المستندات التي يجلبها عميلك بعد ظهر يوم ثلاثاء.

لماذا تحدّد البنية المعمارية قابلية التدقيق

عندما صمّمنا Nexus Legal، بنيناه حول بنية معمارية متعددة العقد تحديدًا لأن الأنظمة أحادية العقدة لا تستطيع توليد أثر الأدلة الذي يحتاجه المدقّق الخارجي لأداء عمله.

يستخدم النظام عقدًا وظيفية متمايزة. تنتج Node A التحليل الأساسي. وتدقّق Node B ذلك التحليل بشكل مستقل، وتولّد اعتراضات تخاصمية، وتشهد بالادعاءات التي تصمد أمام التمحيص. ويُحفَظ سجل الخلاف بين A وB ويبقى قابلًا للطعن: فهو يلتقط لا ما خلص إليه النظام فحسب، بل ما نظر فيه ورفضه.

هذه ليست طُرفة تقنية. إنها الشرط التأسيسي للشهادة الخارجية. لا يمكنك تدقيق نظام لا ينتج سلسلة مخرجات قابلة للتتبّع والطعن.

ما الذي تشهد به طبقة حوكمة من طرف ثالث

الشهادة الخارجية لنظام ذكاء اصطناعي قانوني ليست شهادة للنموذج الأساسي. إنها شهادة لـ:

المنهجية: هل يطبّق النظام إطارًا تحليليًا موثَّقًا ومتسقًا عبر الولايات القضائية؟ وهل ذلك الإطار معرَّف علنًا وقابل للمراجعة بشكل مستقل؟

عملية التحقق من الادعاءات: عندما يؤكد النظام أن قاعدة سارية حاليًا، أو أن سابقة قضائية موجودة، أو أن تفسيرًا تشريعيًا صحيح، هل يوجد أثر قابل للقراءة آليًا من الادعاء رجوعًا إلى المصدر؟

سجل التجاوز (override): عندما تتجاوز المراجعة البشرية مخرجًا للنظام، هل يُسجَّل ذلك التجاوز ويُصنَّف ويُتاح لتحليل الأنماط؟ تكشف معدلات التجاوز بحسب نوع المخرج أين يكون النظام غير موثوق على نحو منهجي.

الاتساق العابر للولايات القضائية: بالنسبة لمنصة تعمل عبر 63 ولاية قضائية، يحتاج المدقّق إلى التحقق من أن الإطار المعياري المطبَّق في سياق القانون الإداري الإسباني ليس هو الإطار نفسه المطبَّق على نزاع دستوري كولومبي.المصادر: 63 ولاية قضائية

مسار التكامل

يتطلب تكامل التدقيق من طرف ثالث ثلاثة أمور يجب تصميمها داخل النظام، لا تركيبها لاحقًا.

أولًا، سجلات مخرجات متاحة للتدقيق. يجب تسجيل كل تحليل ببيانات وصفية كافية تتيح للمدقّق إعادة بناء سلسلة الاستدلال: أي المصادر استُرجِعت، وأي الوحدات المعيارية طُبِّقت، وكيف بدا سجل خلاف Node B، وأي إصدار من المتن الأساسي كان نشطًا وقت الاستعلام.

ثانيًا، ترسيخ مقاوم للعبث. بالنسبة للمخرجات المستخدمة في الإجراءات الرسمية أو المقدَّمة إلى الجهات التنظيمية، يجب ختم أثر التدقيق في سجل لا يمكن تعديله دون أن يُكتشَف ذلك. ويتيح الترسيخ التشفيري (بصمة محتوى، وتوقيع رقمي، وطابع زمني وفق RFC 3161) لأي طرف أن يتحقق من أن المخرج الذي يقرأه لم يُعدَّل منذ توليده، وأن البيانات الوصفية المرتبطة به تطابق حالة النظام في تلك اللحظة.

ثالثًا، نقاط نهاية شهادة منظَّمة. تحتاج طبقة الحوكمة إلى أن تكون قادرة على الاستعلام عن الوثائق المنهجية للنظام، واسترجاع عينات مخرجات مجهَّلة الهوية للفحص العشوائي، وتلقّي تنبيهات آلية عندما تتغير معاملات النظام بطرق تؤثر على مخرجات سبق اعتمادها.

الضغط التنظيمي الذي يجعل هذا ملحًّا

يصنّف قانون الذكاء الاصطناعي الأوروبي أنظمة الذكاء الاصطناعي القانونية المستخدمة في الإجراءات القضائية كأنظمة عالية المخاطر بموجب الملحق الثالث (Annex III). وتحمل الأنظمة عالية المخاطر التزامات تقييم المطابقة، ومتطلبات التوثيق التقني، وتفويضات الإشراف البشري التي لا يمكن الوفاء بها عبر التصديق الذاتي الداخلي للمورّد.المصادر: EU AI Act · Annex III

بالنسبة للمنصات العاملة في أنحاء الاتحاد الأوروبي، ليس هذا شأنًا امتثاليًا مستقبليًا. فالالتزامات سارية. والسؤال هو ما إذا كانت بنية نظامك قادرة على توليد الأدلة التي تطلبها جهة خارجية لتقييم المطابقة.

معظم عمليات نشر الذكاء الاصطناعي القانوني الحالية لا تستطيع ذلك. فالبنية المعمارية لا تنتج أثر الأدلة المطلوب، وتركيبه بأثر رجعي بعد النشر أكثر كلفة بكثير من بنائه منذ البداية.

ماذا يعني هذا عمليًا

يتعلّم القطاع القانوني أن أدوات الذكاء الاصطناعي ليست مجرد مساعدي بحث أسرع. إنها أنظمة تنتج ادعاءات ذات تبعات قانونية، منشورة في سياقات تقع فيها كلفة الإجابة الخاطئة على عاتق العميل.

نموذج الحوكمة الذي يتناسب مع هذا المستوى من التبعات ليس ضمان الجودة الداخلي وعمليات التدقيق الدورية للمورّد. إنه بنية يستطيع فيها طرف ثالث مستقل، في أي وقت، أن يفحص المنهجية وسلسلة المخرجات وسجل التحقق المتقاطع، وأن يشهد بأن ما يدّعي النظام فعله هو ما يفعله فعليًا.

في Nexus Legal، صمّمنا لتلبية هذا المتطلب قبل أن يصبح إلزاميًا. وطبقة التدقيق التي نبنيها ليست إضافة امتثالية. إنها ما كان ينبغي لنظام مصمَّم للاستخدام القانوني المهني أن يبدو عليه منذ اليوم الأول.