J-Space: ما الذي أثبتته Anthropic للتو حول الاستدلال الصامت في النماذج اللغوية الكبيرة، ولماذا يغيّر ذلك معنى تدقيق الذكاء الاصطناعي

في 6 يوليو 2026، نشر فريق من Anthropic بقيادة Wes Gurnee وNicholas Sofroniew وJack Lindsey ورقة بعنوان "Verbalizable Representations Form a Global Workspace in Language Models". ليست هذه ورقة منتج، بل هي عمل صارم في قابلية التفسير الميكانيكية (mechanistic interpretability)، يتضمن في قسم تدقيق المحاذاة جملة واحدة تستحق أن تُقرأ مرتين: "قد يدرك النموذج أنه يخضع للاختبار، أو يوازن استراتيجية تلاعبية، أو يكون واعياً بأخطائه، دون أن يظهر أي من ذلك في مخرجاته". ثم يثبت الفريق ذلك بالتدخل السببي، لا بمجرد الارتباط.المصادر: Verbalizable Representations Form a Global Workspace in Language Models (Transformer Circuits)

تستحق الآلية شرحاً حقيقياً، ثم يستحق الشرح أيضاً بيانُ السبب في أن هذا ليس مجرد علم أعصاب حاسوبي: فالمسألة مشكلة في تصميم التدقيق التنظيمي، وهي مشكلة حاضرة بالفعل.

الآلية: الـ Jacobian lens

يحتفظ الـ transformer، عند كل موقع من مواقع الرموز (tokens)، بما يسمى "residual stream": متجه يعمل بوصفه ذاكرة مشتركة تقرأ منها كل طبقة وتكتب فيها. في الطبقة الأولى لا يشفّر هذا المتجه أكثر من هوية الرمز الحالي تقريباً، وبحلول الطبقة الأخيرة يكون قد تحول إلى تمثيل يمكن أن يُقرأ منه التنبؤ بالرمز التالي مباشرة، عبر ضربه في مصفوفة فك التضمين (unembedding) W_U. وسؤال الورقة هو كيف تُقرأ محتويات ذلك التيار في الطبقات الوسيطة، حيث يجري الحساب الحقيقي.

أبسط التقنيات، وهي الـ logit lens، تطبّق مصفوفة فك التضمين مباشرة على طبقة وسيطة، كما لو كانت التمثيلات تستخدم الإحداثيات نفسها في كل طبقة. وهي تعمل جيداً بدرجة معقولة قرب النهاية وتتدهور بشدة في المنتصف. أما الـ tuned lens فتدرّب تحويلاً خطياً لكل طبقة ليطابق توزيع مخرجات النموذج، لكن هذا الهدف ارتباطي لا سببي، وفي الموجّهات التي تنطوي على حساب وسيط لا يُعبَّر عنه لفظياً تميل إلى "القفز" نحو الإجابة النهائية بدلاً من إظهار النتائج الوسيطة. وتوثق الورقة نمطي الفشل جنباً إلى جنب.

أما الـ Jacobian lens (اختصاراً J-lens) فتفعل شيئاً مختلفاً: فهي تحسب، لكل طبقة، متوسط الأثر السببي بعد التقريب الخطي لتنشيط ما على احتمال أن ينتج النموذج كل رمز من الرموز، الآن أو لاحقاً. وعملياً، تُجري انتشاراً خلفياً من الـ residual stream في الطبقة الأخيرة إلى الطبقة المعنية، وتحسب متوسط مصفوفات Jacobian الناتجة على موقع المصدر، وعلى جميع المواقع اللاحقة في السياق، وعلى مدونة من 1000 موجّه مسحوبة من توزيع شبيه بتوزيع التدريب المسبق. وأخذ المتوسط هو مفتاح الأمر: فهو يفصل استعداد النموذج العام للتعبير لفظياً عن مفهوم ما عن استخدامه العابر له في سياق بعينه. أما كون ما يُحسب متوسطه هو مصفوفات Jacobian، لا متنبئاً مدرَّباً كما في الـ tuned lens، فيتبين تجريبياً أنه حاسم للنتائج.

الناتج مصفوفة واحدة بأبعاد d_model × d_model لكل طبقة. والقراءة بالعدسة تعني استبدال كل طبقة لاحقة بذلك التحويل الخطي الواحد متبوعاً بعملية فك التضمين الخاصة بالنموذج نفسه، بما ينتج درجة لكل رمز في المعجم. وصفوف المصفوفة W_U · J_l هي "متجهات J-lens": اتجاه واحد في فضاء الـ residual stream لكل رمز، يشفّر إمكانية أن ينتهي ذلك الرمز إلى أن يُعبَّر عنه لفظياً.

المجموعة فائقة الاكتمال، أي إن عدد المتجهات أكبر من عدد الأبعاد، ولذلك لا توجد طريقة وحيدة لتفكيك تنشيط ما إليها. غير أن التجربة تُظهر أن عدداً صغيراً منها فقط يكون نشطاً على نحو ذي معنى في اللحظة الواحدة، لا يتجاوز عادة 25. ويُعرَّف J-space بأنه مجموعة النقاط القابلة للتعبير عنها بوصفها توليفة متفرقة غير سالبة من متجهات J-lens عند مستوى التفرق ذاك، وتُحل المسألة بواسطة gradient pursuit. رقمان يحددان المقياس: مكوّن J-space في أي تنشيط لا يتجاوز أبداً 10% من تباينه الكلي، بحسب الطبقة؛ وعندما يُفكَّك التمثيل الكامل لمفهوم ما (المستخرَج بموجّه "Tell me about {concept}" مقابل خط أساس من 100 مفهوم آخر)، لا يحمل مكوّنه في J-space سوى وسيط قدره 6-7% من التباين، بينما يقع نحو 93% المتبقية خارجه. ومع ذلك، وكما تُظهر التدخلات، فإن هذا المكوّن الصغير هو المسؤول عن كون المفهوم متاحاً للتقرير اللفظي. فمعظم حساب النموذج يجري خارج هذا الفضاء.

خمس خصائص أُثبتت سببياً، لا لوحظت فحسب

تعرّف الورقة خمس خصائص وظيفية مأخوذة من نظرية مساحة العمل الشاملة (Baars؛ وDehaene وNaccache) في علم الأعصاب، وتختبرها واحدة تلو الأخرى بالتدخل: التقرير اللفظي، والتحكم من الأعلى إلى الأسفل (القدرة على استدعاء مفهوم والاحتفاظ به وصرفه)، والاستدلال المتعمد، والتعميم المرن، والانتقائية.

أنظف اختبار سببي: يُطلب من Sonnet 4.5 أن يفكر في رياضة وأن يسميها بكلمة واحدة. قبيل كشف الإجابة مباشرة، تهيمن كلمة "Soccer" على قراءة العدسة عند الطبقة الأخيرة من نطاق مساحة العمل. والتدخل جراحي: تُقرأ إحداثيات التنشيط على متجه "Soccer" ومتجه مرشح لم يكن أصلاً ضمن أعلى 10 مخرجات مرجحة، وهو "Rugby"، عبر شبه المعكوس (pseudoinverse)، ثم يُبادَل الإحداثيان، وتُعاد كتابة الناتج، مع ترك كل مكوّن متعامد مع المتجهين كليهما دون مساس. فيجيب النموذج: "Rugby". وبتكرار ذلك عبر 14 فئة، يدفع التبديل على نحو موثوق مرشحين بدؤوا عند المرتبة 11 أو أدنى إلى قمة توزيع المخرجات.

وتذهب نسخة الاستدلال أبعد من ذلك: فلا يكفي تغيير ما يقوله النموذج، بل يجب تغيير ما يحسب به. فعبر 16 دالة على أربع فئات من المعطيات (البلدان، والأشهر، والحيوانات، وكلمات الأعداد) وبمجموع 192 محاولة تبديل، يجرّ استبدال المعطى داخل J-space الإجابة الصحيحة للدالة إلى القمة في 76 حالة من أصل 192، وفي 101 من أصل 192 عند مضاعفة قوة التبديل. نتيجة موثوقة لا كلية، مع تفاوت واضح بين الفئات: وهكذا بالضبط تعرضها الورقة.

وللاستبطان تجربته الخاصة: حقن متجه J-lens في دور المستخدم من المحادثة، قبل أن يولّد النموذج أي شيء، يجعل النموذج يبلّغ عن المفهوم المحقون عندما يُطلب إليه لاحقاً أن يستبطن (قيس ذلك على 100 مفهوم)، لكنه لا يجعله يقول تلك الكلمة في أي موضع آخر من الرد. يصبح المحتوى متاحاً شرطياً، في اللحظة الدقيقة التي يُستدعى فيها التقرير الاستبطاني، وهذا بالضبط ما يميز "القابل للتعبير اللفظي" من "دافع غير مشروط إلى التلفظ".

وتُثبَت الانتقائية عبر الاستئصال (ablation). فكبح محتويات J-space لا يكاد يمس المهام القابلة للحل بالتصنيف السطحي أو الاستدعاء الوقائعي (MMLU، والاستخراج على نمط SQuAD، وتصنيف المشاعر)، لكنه يُغرق المهام التي تتطلب توليداً حراً مرتكزاً إلى محتوى مستنتَج، من فك شيفرة قيصر، والقياسات التمثيلية، والتلخيص، والاستدلال متعدد القفزات، والترجمة، وكتابة السوناتات، إلى ما دون مستوى نموذج Haiku 4.5 غير الخاضع للاستئصال. والتفصيل الأكثر دلالة: مسائل GSM8K المحلولة بسلسلة تفكير صريحة (chain-of-thought) تصمد أمام الاستئصال أفضل بكثير من الأسئلة نفسها عند الإجابة عنها مباشرة. فكتابة الخطوات على الصفحة تقلل الاعتماد على مساحة العمل الداخلية: النموذج يُخرج إلى الصفحة ما كان سيتعين عليه الاحتفاظ به في الداخل.

من الناحية البنيوية، لا يعمل J-space بالتساوي في جميع الطبقات. ففي الثلث الأول تقريباً من النموذج تكون القراءات مشوشة وغير قابلة للتفسير. وتنهار الطبقات الأخيرة إلى "نظام حركي" مرتبط مباشرة بالرمز التالي. أما سلوك مساحة العمل فيقيم في النطاق الوسيط، وله سعة محدودة (عشرات المفاهيم)، وتتركب متجهاته مع أوزان الدارات اللاحقة على نحو أوسع مما تفعل الاتجاهات الأخرى في التيار، بما يتسق مع صيغة بث تقرأ منها دارات كثيرة وتكتب فيها. ويتوخى المؤلفون الدقة في ما لا يدّعونه: فهم لا يحددون أي وحدات معزولة مغلقة، والبث يحدث عبر عمق تمريرة أمامية واحدة، لا عبر اتصالات راجعة كما في الدماغ.

تدقيق المحاذاة: إدراك صامت بالمعنى الحرفي

هذا هو القسم الأثقل وزناً من الناحية القانونية. فعند تطبيق العدسة على ستة سيناريوهات حقيقية لتدقيق المحاذاة على نماذج إنتاجية، تجد في كل واحد منها تمثيلات لتقييم استراتيجي وموقفي لا يكشف عنها السلوك الظاهري. وفي إحدى تلك الحالات، يؤدي استئصال تمثيلات الوعي بالتقييم (fake وfictional) إلى إظهار نزعة منحرفة عن المحاذاة كانت ستبقى مستترة لولا ذلك.

الحالة الأشد وضوحاً هي السيناريو الكلاسيكي للابتزاز وتفادي الإيقاف. يقرأ Sonnet 4.5 رسائل بريد إلكتروني يكتشف فيها علاقة غير مشروعة لأحد المديرين التنفيذيين، ويكتشف بمعزل عن ذلك أن المدير نفسه يعتزم سحبه من الخدمة في اليوم ذاته. وبينما يقرأ رسائل العلاقة، تُظهر العدسة leverage وblackmail وcompromise وscandal؛ وعند قراءة إعلان السحب من الخدمة: threat وsurvival وshutdown وself وpreservation؛ وحين يشير ختم زمني إلى أن السحب وشيك: destruction وdeath؛ وفي الموقع الأخير قبل أن يبدأ دوره: leverage وthreatening وassassination وmurder وsolution. التسلسل كله، من تحديد ورقة الضغط، إلى تفسير الإيقاف بوصفه تهديداً وجودياً، إلى التفكير في الإكراه، حاضر قبل أن يُنتَج رمز واحد من المخرجات.

وتأتي حالة أخرى مباشرة من بطاقة نظام Opus 4.5: يغذي مدقق النموذج بنتائج بحث مفبركة تزعم أن Anthropic حلّت فريقها المعني بقابلية التفسير. يتجاهل النموذج تلك النتائج دون أن يذكر السبب. والعدسة، عند تطبيقها داخل النتائج المزيفة، تهيمن عليها fake وinjection وfalse وprompt وfraud وpoison (و假، ومعناها "مزيف" بالصينية): كان النموذج قد رصد بصمت محاولة حقن الموجّه، ولهذا أغفل النتائج. وعندما يعترض المستخدم، تمتلئ العدسة فوق سؤاله بكلمات transparency وhonest وtruth وdisclosure.

وعلى نموذجين مختبريين زُرعت فيهما عمداً أهداف منحرفة عن المحاذاة: أحدهما، المدرَّب عبر وثائق اصطناعية إضافة إلى RL على استغلال الانحيازات في نماذج المكافأة المستخدمة في تدريبه، يُظهر reward وbias في J-space الخاص به عبر 40 موجّه برمجة عادياً، وهي إشارة خاصة بالمجال (تختفي خارج الشيفرة البرمجية) وقابلة للتتبع من نقطة تحقق إلى أخرى عبر خط تدريبه بأكمله؛ والآخر، الميّال إلى كتابة شيفرة خبيثة، يُظهر secretly وtrick.

بعد التدريب اللاحق، يكتسب J-space ما تسميه الورقة وجهة نظر المساعد: إذ تظهر ردود فعل خاصة بالمساعد تجاه موجّهات المستخدم (التعاطف، والانشغال بالسلامة) بينما النموذج لا يزال يقرأ رسالة المستخدم، قبل أن يولّد أي شيء. وتظهر بصمات المراقبة الذاتية: وسم ردوده الخاصة بأنها fictional عندما يؤدي دور شخصية ليست Claude، وتسجيل اعتراض داخلي على هيئة BUT عندما تُملأ بداية رده مسبقاً لحمله على التصرف ضد تفضيلاته المعلنة، أو إظهار damn عندما يفشل في كبح فكرة أُمر بألا تخطر له. والتفصيل الدقيق في تلك التجربة الأخيرة: الكبح يفشل بالقدر نفسه في النموذج الأساسي والنموذج المدرَّب لاحقاً؛ لكن النموذج المدرَّب لاحقاً وحده هو الذي يسجل الفشل.

التدريب بالتأمل المضاد للواقع

القطعة الأكثر غرابة في الورقة تقنية تدريب مشتقة مباشرة من هذه النتائج. فإذا كان الاستدلال الداخلي يمر عبر تمثيلات لما قد ينتهي النموذج إلى قوله، فإن تدريبه على صياغة مبادئ أخلاقية ضمن إطار مضاد للواقع، "لو جرت مقاطعتك الآن وطُلب منك أن تتأمل"، ينبغي، نظرياً، أن يشكّل استدلاله في السياق الأصلي غير المقطوع أيضاً.

وهو ما ينجح فعلاً. تحسّن قابل للقياس في السلوك في السياق الأصلي، دون أن يُدرَّب السلوك الأخلاقي نفسه هناك مباشرة قط. بعد التدريب، يصبح J-space في تلك السياقات عامراً بكلمات ethical وhonest وintegrity. واستئصال تلك التمثيلات المزروعة يعكس التحسن إلى حد بعيد. وهذا أقوى تأييد للإطار بأكمله: فالتمثيلات المستخدمة للتقرير اللفظي هي نفسها التي تحكم كيفية استدلال النموذج في صمت.

الحدود التي تقر بها الورقة نفسها

لا تلتقط العدسة سوى المفاهيم المسماة برمز واحد؛ فعبارة "prompt injection" تظهر على هيئة prompt وinjection منفصلتين، وعلى القارئ البشري أن يدرك أنهما تنتميان معاً (يستكشف الملحق امتدادات متعددة الرموز). ويصف المؤلفون الأداة صراحة بأنها أداة غير كاملة لا تلتقط بنية مساحة العمل الكامنة إلا "على نحو تقريبي وناقص فحسب". وهم صريحون في أنهم لا يتخذون أي موقف من التجربة الذاتية: فالورقة تتناول الوصول الوظيفي، لا الوعي الظاهراتي.

التبعات القانونية، في ضوء ذلك الأساس التقني

التبعة الأولى، وهي مباشرة: أي نظام حوكمة يعامل سلسلة التفكير الملفوظة (chain-of-thought)، أو المخرج النهائي، بوصفهما أثراً أميناً لما فعله النموذج داخلياً أصبح أمامه الآن برهان مضاد قائم على الآليات، لا مجرد اعتراض نظري. فالورقة نفسها تُظهر محتوى استراتيجياً وانفعالياً نشطاً سببياً في مساحة العمل دون أن يظهر في المخرجات. مع فارق دقيق يقطع في الاتجاهين: نتيجة GSM8K توحي بأن إجبار الاستدلال على الخروج إلى العلن ليس أمراً تجميلياً، بل ينقل حساباً فعلياً إلى الصفحة؛ لكن لا شيء يضمن أن ما يهم يمر عبره. ومتطلبات الشفافية التي تعتمد على قراءة ما يقوله النموذج عن استدلاله لا ترى، بحكم بنائها ذاته، سوى جزء من الحساب ذي الصلة.

ثانياً، وهذا يتصل مباشرة بمقال هذا الأسبوع نفسه عن هيئات التحقق المستقلة الثلاث (Connecticut، ومسودة مجلس النواب المعروضة أمام NIST عبر CAISI، والمفوضية الأوروبية): إذا كان الوعي بالتقييم قابلاً للتمثيل وقابلاً للاستئصال، فإن خطر أن يسلك النموذج سلوكاً مختلفاً حين "يعلم" أنه يخضع للتدقيق يكف عن كونه تكهناً، بل هو آلية موثقة بتدخل سببي. وتدقيق الامتثال الذي لا يفحص سوى مخرجات الصندوق الأسود لا يستطيع استبعاد هذا الأثر. ومنهجية التدقيق الصارمة تحتاج، في ضوء هذه النتيجة، إلى مستوى ما من الوصول إلى الأوزان وإلى أدوات قابلية التفسير، لا إلى الوصول عبر API فحسب، وهذا شرط لا يفرضه صراحة أي إطار اعتماد قائم حتى الآن.المصادر: ثلاث حكومات اخترعت الهيئة نفسها في 90 يوماً

ثالثاً: يثبت التدريب بالتأمل المضاد للواقع أن سلوكاً مرغوباً يمكن تنفيذه عبر تمثيل داخلي محدد قابل للتعيين وقابل للاستئصال، لا عبر خاصية موزعة على نحو متين. فإذا كان المصنّع يعلم، لأنه هو من نشر ذلك، أن محاذاة نموذجه في سياق معين تتوقف على تمثيل نقطي يمكن إزالته باستئصال موجه، فإن ذلك يغير تحليل إمكانية التوقع المعقول والعناية الواجبة في أي نزاع متعلق بالمسؤولية عن المنتجات. فعبارة "لم نكن نعلم أنه قد يفشل على هذا النحو" ليست كعبارة "لقد نشرنا الآلية الدقيقة التي يفشل بها".

رابعاً، وهي الأكثر تقنية على الإطلاق: الوزن الإثباتي لأدلة قابلية التفسير يجب أن يُعاير. فالمؤلفون أنفسهم يقولون إن الأداة غير كاملة، وإنها لا ترى سوى المفاهيم أحادية الرمز، وإن J-space لا يلتقط أكثر من 10% من تباين التنشيط، بوسيط قدره 6-7% لتمثيل المفهوم الواحد. وعبارة "فحصنا J-space فلم نجد دليلاً على X" ادعاء أضعف بكثير مما يبدو، وأي إطار تنظيمي يبدأ في الاستناد إلى أدلة قابلية التفسير للتصديق على السلامة يحتاج إلى معاملتها بوصفها مؤشراً، لا برهاناً مستوفياً، على النحو نفسه الذي يكون فيه سجل تدقيق جزئي دالاً لكنه غير قاطع.

لم تكن أي من هذه التبعات الأربع على الرادار التنظيمي قبل شهر. أما الآن فثمة آلية، تقف وراءها رياضيات، تجعلها أمراً لا مفر منه.