التحقّق ليس مثل القابلية للدفاع

جادلت مقالة نشرناها مؤخراً بأن "التحقق" في الذكاء الاصطناعي القانوني يؤدي ثلاث وظائف مختلفة في آن واحد: الإفصاح (هل وسمت المُخرَج)، وتقييم الثقة (هل تصمد ثقة نموذج قاضٍ بنفسه)، والتحقق من المصدر (هل يطابق الادعاء المحدد وثيقة حقيقية محددة). كان جوهر الحجة أن كل طاقة القطاع تقريباً تذهب إلى الوظيفتين الأوليين، ولا شيء تقريباً إلى الثالثة، لأن الثالثة هي الوحيدة التي تحتاج إلى مدونة اختصاصية حقيقية بدلاً من نموذج قاضٍ عام الغرض.المصادر: Everyone Is Verifying Legal AI (three layers)

فعلت قسم التعليقات ما نادراً ما تتاح لمقالة واحدة فرصة فعله: ظلّ الجدل مستمراً بعد أن توقّفت الحجة، والتقى على طبقة رابعة لم تُسمّها المقالة قط. افتتحها Adel Kildeev: التحقق لا يُنهي المسؤولية، بل هو خطوة إثباتية واحدة قبل أن يقرأ مهني مؤهل المصادر الأولية قراءة مستقلة ويتحمّل ملكية القرار. وسمّاها Marco Rossi بثلاثة أحرف، LITL، أي lawyer in the loop. وأمعن Itamar Rosen في شحذ السؤال: هل ينبغي أن يُعلن طيار عن كل تفعيل للطيار الآلي للركاب، أم أن الراكب يحتاج فعلاً إلى شيء آخر، طيار مدرّب وخاضع للمساءلة وصندوق أسود يعيد بناء ما حدث إن ساء شيء ما.

ثم اختصر Arkadiy Miteiko، مجيباً مباشرة أسفل المقالة، الفكرة كلها في سطر واحد: "computational correctness is not institutional validity" (الصحة الحسابية ليست الصلاحية المؤسسية). والنقطة الكامنة تحته أن ادعاءً مسنوداً بمصدر صحيح قد يفشل رغم ذلك، تبعاً لمن يستند إليه، وبأي سلطة، ولأي مسألة، وفي أي لحظة، وأن الثقة في الذكاء الاصطناعي القانوني تأتي بدرجة أقل من مجرد وجود الاستشهادات، وبدرجة أكبر من القدرة على إعادة بناء كل استخدام ذي أثر وتبريره بعد وقوعه.

هذا ليس إعادة صياغة للتحقق من المصدر بكلمات مختلفة. إنه محور رابع منفصل، وله اسم وجسد من العمل خلفه: Ignacio Adrian Lerer، وهو محامٍ للشركات ومدير مستقل يكتب عن هذا الحد بالذات بين مُخرَج النظام وقدرة المؤسسة على الوقوف خلفه.

الحد الذي يظل Lerer يرسمه

In a recent piece on Argentina يتناول الإصلاح المعلّق حول أنظمة القرار المؤسسية المستقلة، وهو جزء من النقاش حول إدخال شكل مؤسسي مستقل في الـ Ley General de Sociedades، يعيد Lerer صياغة المسألة برمّتها. فهو أقل اهتماماً بما إذا كان بإمكان نظام أن يحمل الشخصية القانونية منه بمشكلة أضيق وأصعب: حين يفعل نظام مستقل شيئاً لم يوافق عليه أحد صراحة، قرار من كان هذا. وجوابه يفصل دورين يُعامَلان كواحد ولا ينبغي ذلك. فمن أعدّ النظام واختار مُعطياته وحدّد ما كان مأذوناً به يُسأل عن فعل مختلف عمّن، أو ما، تصرّف باستقلالية داخل ذلك الإعداد. عاملهما كفاعل واحد، فإما أن تدع قرار الإعداد يختبئ خلف القرار المستقل، أو تُحمّل شخصاً مسؤولية سلوك ما كان لأحد أن يُعِدّ ضده مسبقاً. ويؤسّس اقتراحه عمداً على المادة 19 من الدستور في الأرجنتين: نظّم ما يحدث حين يُسبّب النظام ضرراً، لا الخطوات الداخلية التي قرّر بها أي شيء. ضبط النتائج، لا ضبط العملية.المصادر: Ignacio Adrián Lerer, on the SCBA AI framework (Abogados.com.ar) · Argentina's "sociedad automatizada" reform (Infobae)

هذا التمييز، configurator مقابل executor، هو الإطار الأنقى المتاح لما يعنيه فعلاً "القابل للدفاع". الادعاء المتحقق منه يخبرك أن الـ executor أنتج شيئاً يطابق مصدراً حقيقياً. لكنه لا يخبرك بشيء عمّا إذا كان فعل الاستناد المحدد ذاك قد حدث داخل الحد الذي أذن به الـ configurator فعلاً، في تلك اللحظة، لتلك المسألة، بموجب ذلك التفويض. هذه أسئلة مختلفة، ولا يُجاب عن سوى واحد منها بفحص الاستشهاد.

حيث يصبح الأمر ملموساً: الخبير الذي لا يستطيع شرح الاستدلال

Lerer's other relevant piece، حول إطار قضائي للذكاء الاصطناعي أقرّته للتو المحكمة العليا لمقاطعة Buenos Aires، يجعل التمييز نفسه ملموساً لا نظرياً. تشترط اللائحة إشرافاً بشرياً "significant" (جوهرياً) على العمل القضائي المدعوم بالذكاء الاصطناعي دون أن تعرّف قط ما يعنيه ذلك عملياً، عتبة مفتوحة قابعة داخل قاعدة ملزِمة. والمثال الذي يسوقه يخترق الغموض وحده: خبير مُعيّن من المحكمة يوقّع على تقرير صاغه الذكاء الاصطناعي دون أن يتابع استدلاله متابعة حقيقية تصبح لديه مشكلة فعلية لحظة يبدأ محامي الخصم بطرح الأسئلة على المنصة، مشكلة لا علاقة لها بما إذا كانت الاستشهادات في ذلك التقرير صحيحة. فما يُختبر فعلاً في الاستجواب المضاد هو الضمانة التخاصمية، أي قدرة الخبير نفسه على الدفاع عن استنتاجاته في وجه سؤال عدائي، لا دقة ما استشهد به التقرير. واللائحة نفسها، في النفَس ذاته، تجعل فحص استشهاد مولَّد بالذكاء الاصطناعي إلزامياً على موظفي القضاء. كلا الاشتراطين قابعان جنباً إلى جنب في قاعدة واحدة. ولا يمكن استيفاء سوى واحد منهما بإجراء فحص.المصادر: SCBA AI framework, Resolución SC 1.719/26 (Diario Judicial) · SCBA official note

هذا هو النمط الجدير بالتسمية بدقة: ادعاء مسنود بمصدر صحيح يُسلَّم إلى شخص لا يستطيع إعادة بناء سبب استناده إليه يبقى مسؤولية. وادعاء أضعف غير متحقق منه يفهمه الشخص فهماً كاملاً، ويستطيع شرحه ويتحمّل ملكيته، قد يصمد أمام التمحيص حيث لا يصمد المسنود، لأن التمحيص في إجراء تخاصمي يختبر سلطة الإنسان وفهمه، لا وجود الاستشهاد.

ما تتطلبه القابلية للدفاع فعلاً، من الناحية الآلية

إن كان التحقق من المصدر يحتاج إلى مدونة حقيقية، أي إلى طريقة لربط ادعاء محدد بوثيقة محددة، فإن القابلية للدفاع تحتاج إلى مجموعة مختلفة وأصعب من الأمور.

سلطة مربوطة بلحظة، لا بدور فحسب. الصفة للاستناد إلى مُخرَج مدعوم بالذكاء الاصطناعي محدّدة بالزمن ومحدّدة بالتفويض، لا خاصية دائمة لمسمى وظيفي. والتحقق من أن الاستشهاد حقيقي لا يقول شيئاً عمّا إذا كان الشخص الذي يستدعيه يملك حالياً السلطة التي يقتضيها استناده، لهذه المسألة، في هذه المرحلة منها. وانقسام configurator مقابل executor لدى Lerer يجعل نمط الفشل دقيقاً: السؤال ليس أبداً مجرد "هل تصرّف النظام تصرفاً صحيحاً"، بل "هل كان فعل الاستناد المحدد هذا داخل النطاق الذي أذن به الإعداد فعلاً". فتوقيع صالح قبل انقضاء تفويض ليس صالحاً تلقائياً بعده. وأداة مأذون بها لفئة من المسائل لا تحمل الإذن إلى فئة مجاورة لمجرد أن أحداً لم يُعِد الفحص.

استدلال محفوظ، لا استنتاجات مُقرّة فحسب. النظام الذي يسلّم مهنياً جواباً نهائياً مرفقاً بالاستشهادات يتيح لذلك الشخص أن يُقرّ استنتاجاً دون أن يستوعب الاستدلال الذي أنتجه. والاستجواب المضاد لا يختبر الاستنتاجات. بل يختبر الاستدلال، تحت الضغط، في الوقت الحقيقي، من شخص وظيفته إيجاد الشرخ. وأي سير عمل مبني للقابلية للدفاع عليه أن يُلزم الإنسان بأن يسير عبر سلسلة الاستدلال نفسها ويؤكّدها كخطوة متمايزة عن قبول المُخرَج النهائي المفحوص الاستشهادات، لأن هذين ليسا الفعل ذاته من المراجعة، ولا يُنتج سوى واحد منهما شخصاً يستطيع الصمود أمام مساءلته عنه.

على السجل أن يُسمّي الفاعل الخاضع للمساءلة، لا أن يسجّل أن فحصاً جرى فحسب. مسجّل طيران يُظهر أن الطيار الآلي كان مفعّلاً في لحظة معينة لكنه لا يُظهر أي طيار كان في القيادة وخاضعاً للمساءلة في تلك اللحظة يفتقد الجزء الذي يهم حين يسوء شيء ما. والفشل المكافئ في الذكاء الاصطناعي القانوني نظام يسجّل "verification passed" (اجتاز التحقق) دون ربط ذلك الاجتياز بشخص محدد راجعه، بموجب سلطة محددة، في تاريخ محدد، ويمكن سؤاله عن ذلك القرار لاحقاً. التحقق يُنتج واقعة عن ادعاء. والقابلية للدفاع تتطلب واقعة عن علاقة شخص بذلك الادعاء، في ذلك الوقت.

معايير الإشراف غير المعرّفة ثغرة قائمة، لا افتراضية. نقطة Lerer حول "significant human supervision" (الإشراف البشري الجوهري) ليست نقداً مجرداً لصياغة تنظيمية. إنها وصف لقاعدة موجودة الآن، ملزِمة، بمعيار لم يُشغّله أحد عملياً. فمراجعة صورية، خمس ثوانٍ من النقر على الموافقة، تستوفي تقنياً "أشرف إنسان على هذا" بموجب قاعدة لا تقول قط كم من الإشراف يُحتسب، بينما لا توفّر شيئاً من القابلية للدفاع التي وُجدت القاعدة لإنتاجها. وأي نظام يدّعي "human in the loop" كضابط عليه أن يكون قادراً على أن يقول، بشكل ملموس، ما الذي يميّز الإشراف الذي سيصمد عن الإشراف الذي لن يصمد، لأن القاعدة عادة لا تقول، والثغرة تؤول افتراضياً إلى من يطرح السؤال بعد أن يكون شيء ما قد ساء فعلاً.

لماذا لا ينهار هذا في التحقق

كان سيكون أنيقاً لو تبيّن أن القابلية للدفاع ليست سوى التحقق من المصدر بثوب اسم آخر، فحص فرعي إضافي يُضاف إلى الخط نفسه. لكنها ليست كذلك، ومعاملتها هكذا تُضيّع المغزى الحقيقي. التحقق من المصدر يجيب عن سؤال يطرحه منظِّم أو خصم أو مدقّق عن المحتوى: هل يطابق هذا الادعاء الواقع. والقابلية للدفاع تجيب عن سؤال تطرحه محكمة أو هيئة أو مجلس عن الشخص: هل كانت لديك الصفة والفهم للاستناد إلى هذا، هنا، الآن، وهل يمكنك أن تُبيّن عملك. فبإمكان نظام أن يُنتج ادعاءً متحققاً منه تماماً ويفشل رغم ذلك في السؤال الثاني فشلاً كاملاً، وبإمكان نظام أن يُنتج شيئاً أضعف يصمد أمامه تماماً، لأن السؤال الثاني لم يكن قط عن الادعاء أصلاً.

ولهذا أيضاً لا يبدو الحل كخط تقييم. التحقق يمكن أتمتته من طرف إلى طرف، لأنه خاصية لوثيقة مطابَقة بأخرى. أما القابلية للدفاع فلا يمكن أتمتتها بالطريقة نفسها، لأنها خاصية لعلاقة إنسان محدد بقرار محدد، وأقصى ما تستطيعه البنية أن تجعل تلك العلاقة قابلة لإعادة البناء لا مفترَضة. وما تستطيع ضمانه أن الاستدلال جرى السير عبره فعلاً لا خُتم صورياً، وأن السجل يُسمّي من قرّر ماذا وبأي سلطة، وأن الثغرات فيما يُحتسب إشرافاً كافياً تُعامَل كأسئلة مفتوحة يجب تثبيتها لا تجاوزها بخانة اختيار.

لم يُخطَّط لأي من هذا كمقالة ثانية حين نُشرت الأولى. فقد خرج من سلسلة تعليقات فعلية، في الوقت الحقيقي، من أناس دفعوا الحجة أبعد ممّا فعلت المسودة الأصلية. إنها طريقة غريبة لبناء حجة، على الملأ، مع من سيستخدمونها، لكنها أنتجت تمييزاً أحدّ ممّا كانت غرفة مغلقة لتنتجه، والأمانة تقتضي قول ذلك.