ما وراء الحدس: تمحيص عميق وحدود تجريبية لفرضية النماذج الكبيرة "الضغط يعني الذكاء

تكافؤ "التنبؤ ↔ الضغط"، ونظرية فقدان اللوغاريتم كقاعدة تسجيل دقيقة ومناسبة، أرست الأساس النظري للافتراض الأساسي بأن "ضغط أفضل ⇐ توزيع تنبؤ شرطي أقرب إلى القيمة الحقيقية ⇐ أي قرار بايزي ليس أسوأ". في ظل الظروف المثالية للنماذج الثابتة، وتوزيع البيانات الثابت، والعينات اللانهائية، ووفقًا لأبحاث نظرية الترميز الحسابي (Shannon 1948; Delétang et al. 2023) و Gneiting & Raftery (2007)، بالإضافة إلى كفاية بلاكويل (1953)، فإن هذا القانون صالح رسميًا.

ومع ذلك، عندما تُحوَّل سلسلة الافتراضات النظرية هذه إلى نسخ عملية للأعمال (P2-P5)، تواجه عموميتها تحديات. نُعرّف مؤشر الضغط الأساسي بأنه BPB (Bits Per Byte) المعيّر بالبايت، ويتم حساب الاحتمال اللوغاريتمي باستخدام طريقة teacher forcing على الإجابات المرجعية. تُقاس جودة الأعمال (Q) بمعدل الدقة الواقعية لـ 41 سؤالاً مُجمّدًا. يختبر هذا البحث بشكل أساسي "النسخة الضعيفة" (W-version)، أي أن مؤشر الضغط يمتلك فعالية تنبؤية متزايدة تحت ظروف محدودة، ويجب استخدامه جنبًا إلى جنب مع تقييم الأعمال؛ بينما "النسخة القوية" (S-version)، أي أن تحسين الضغط كوكيل كافٍ لجودة الأعمال يمكن تعميمه مباشرة عبر النماذج والعملاء، فقد تم رفضها مباشرة كليست نظرية من خلال بناء الأمثلة المضادة في هذه الورقة. هذا التمييز بالغ الأهمية لأنه يرسم خطًا فاصلًا بين النظرية والتطبيق.

يعتمد صحة سلسلة الافتراضات على سلسلة من الافتراضات الأساسية: صلاحية جسر القياس (A1)، والقابلية للتعرف (A2)، والقابلية للاستقراء (A3)، بالإضافة إلى التجميع والتوزيع المتماثل المستقر (A4/A5). أي ضعف في أي من هذه الافتراضات قد يؤدي إلى فشل النظرية في الواقع. ويشير هذا التقرير بشكل خاص إلى أن القابلية للتعرف والتجميع المتماثل التوزيع هما من أضعف الروابط، حيث يرتبطان مباشرة بقدرتنا على ترجمة تحسين BPB بفعالية إلى تحسين في أداء الأعمال، والقدرة على تحديد هذا الارتباط السببي بدقة، وليس مجرد ارتباط سطحي.

أولاً، "فجوة التجميع": مؤشر BPB هو متوسط الخسارة للنموذج عبر جميع الرموز الناتجة، في حين أن جودة الأعمال Q (مثل دقة الحقائق) غالبًا ما تكون حكمًا منطقيًا (conjunction) يستهدف "مواضع حاملة للحقيقة" معينة في الإجابة. يوضح هذا البحث [الاشتقاق] أنه حتى لو كان إجمالي BPB لنموذجين متساويًا تمامًا، فإن أدائهما في جودة الأعمال قد يكون أحدهما صحيحًا تمامًا والآخر خاطئًا تمامًا. هذا يعني أن انخفاض BPB لا ينطوي بالضرورة على تحسين في جودة الأعمال، ما لم يتم افتراض إضافي بأن انخفاض الخسارة يتوزع بشكل متناسب بين مواضع الحقائق والمواضع غير الحقائق. هذا يكشف عن الإمكانية الرياضية لـ "انفصال تحسين الضغط عن دقة الأعمال" في تجربة AUTO-005، وهو ليس ظاهرة غير طبيعية، بل هو فجوة متأصلة على المستوى المنطقي.

ثانيًا، "فجوة التحديد": في دراسات الارتباط على مستوى النموذج، غالبًا ما يتأثر الارتباط بين مؤشرات الضغط وجودة الأعمال بانحياز منهجي صعودي ناتج عن عامل مشترك. على سبيل المثال، قد تؤدي عوامل السعة الخفية (Z) مثل عدد المعلمات، وحجم بيانات التدريب، وقوة الحوسبة، إلى تحسين قدرة النموذج على الضغط وجودة الأعمال في آن واحد. ووفقًا لنظرية انحياز المتغيرات المحذوفة المعيارية لـ Angrist & Pischke (2009)، فإن صيغة ميل OLS المشتقة في هذه الورقة [الاشتقاق] $\hat\beta_{Q\sim C}=\theta+\frac{ab\,\mathrm{Var}(Z)}{\mathrm{Var}(C)}$ توضح بوضوح حد الانحياز الناتج عن عامل السعة Z. هذا يعني أنه حتى لو حاولنا التحكم في الحجم من خلال الارتباط الجزئي كما في AUTO-005، فمن الصعب القضاء على الانحياز تمامًا إذا كانت المتغيرات التحكمية تحتوي على أخطاء قياس أو كانت متواطئة غير خطية مع المتغيرات الأساسية. وهذا يشكل أضعف رابط هيكلي للتفسير السببي لـ P2.

ثالثًا، "فجوة الاستقراء": العينات المحدودة، وانحراف التوزيع، و"نظرية عدم وجود غداء مجاني" (Wolpert 1996) تحد جميعها من عمومية مؤشرات الضغط. إن استنتاج شانون للانتروبيا/طول الكود يستهدف متوسط التوزيع، في حين أن تسليم الأعمال يتعلق بالحكم على حالات فردية. في سيناريوهات العينات الصغيرة، قد يكون الحد الثابت لتعقيد كولموغوروف بنفس رتبة الاختلاف الحقيقي، مما يجعل التحسين الأسي النظري صعب التحقيق. عندما يغير العميل المخصص أو المجال توزيع توليد البيانات p(X,Y)، فإن التعيين f(C->Q) الذي تم تدريبه على التوزيع القديم قد ينحرف. والأهم من ذلك، في غياب معرفة مسبقة بالتوزيع المستهدف، لا يمكن لأي خوارزمية تعلم أن تتفوق باستمرار على خوارزمية عشوائية، مما ينفي الإمكانية الرياضية لـ "الضغط ⇒ جودة المهمة" كقانون عالمي.

يوفر مسار تعقيد كولموغوروف دعمًا نظريًا قويًا لكون "الضغط هو أساس التنبؤ/التعميم الشامل". وفقًا لعمل [المراجع المعتمدة] Li & Vitányi (2019)، تشكل نظريتهم حول الثبات، وتناظر المعلومات، ونظرية الترميز، فهمًا للضغط على البيانات كجوهر لتمثيل المعلومات. يربط احتمال سولومونوف المسبق (Hutter 2005) تعقيد كولموغوروف للنموذج/البيئة بتقارب التنبؤ من خلال تقليل الحد الأعلى المتوقع لخطأ التنبؤ التراكمي. بينما ترفع نظرية AIXI (Legg & Hutter 2007) ذلك إلى مستوى "الاستدلال السولومونوفي (الضغط يعني التنبؤ) + تخطيط نظرية القرار"، مما يضع الضغط كأساس ضروري للذكاء العام.

ومع ذلك، فإن تعقيد كولموغوروف له قيود كبيرة أيضًا: عدم قابليته للحساب (Li & Vitányi Ch. 2) يعني أن أي ضاغط فعلي لا يمكنه إلا توفير حد أعلى، وقد لا يتوافق الترتيب بالضرورة مع التعقيد الحقيقي. في سيناريوهات العينات الصغيرة مثل 41 سؤالًا، قد يكون الحد الثابت بنفس رتبة التأثير الفعلي. والأهم من ذلك، تشير "نظرية عدم وجود غداء مجاني" (Wolpert 1996) إلى أن مثالية سولومونوف هي متوسط مثالي مرجح لجميع التوزيعات القابلة للحساب، ولا تعد بالتفوق على الأساليب المتخصصة في مهام ضيقة معينة. هذا يدل على أن AIXI ليس مجرد معادلة بسيطة لـ "الضغط يعني الذكاء"، بل يعتبر الضغط أساسًا ضروريًا للذكاء العام، وليس وكيلاً كافيًا لجودة الأعمال.

يقدم مسار نظرية معلومات شانون أقوى دعم فيما يتعلق بجسر القياس: فقد أثبتت نظرية ترميز المصدر (Shannon 1948)، ونظرية الترميز الحسابي (Pasco 1977; Rissanen 1976; Delétang et al. 2023)، ومبدأ تكافؤ التنبؤ بالضغط (Delétang et al. 2023)، وقواعد التسجيل الدقيقة المناسبة (Gneiting & Raftery 2007) مجتمعةً أن تقليل فقدان اللوغاريتم يعادل تقليل معدل الضغط، وفي ظل التوزيع الحقيقي، يضمن ذلك أن القرارات اللاحقة لن تكون أسوأ (كفاية بلاكويل، 1953). وبالتالي، فإن انخفاض BPB كـ "طول وصف زائد" يعكس بالفعل تحسنًا في مدى ملاءمة النموذج للتوزيع الشرطي الحقيقي. لكن من حيث دحض الافتراضات، فإن نظرية شانون حادة بنفس القدر: تظهر متباينة معالجة البيانات (Cover & Thomas Thm 2.8.1) أن الضغط لا يمكنه إنشاء معلومات مهمة، وقد يؤدي إلى إتلافها. تكشف نظرية معدل التشويه (Shannon 1959) ومبدأ عنق الزجاجة المعلوماتي (Tishby, Pereira & Bialek 1999) كذلك أن هناك جبهة ثنائية الأبعاد بين معدل الضغط ومعلومات المهمة، وليست علاقة رتيبة بشكل عام، وهذا يشكل مباشرة مثالاً مضادًا فعالًا لـ "ضغط أفضل" يعني "معلومات مهمة أكثر". تشير الدراسات التجريبية، مثل تقرير Huang et al. (2024)، إلى ارتباط عالٍ بين BPB للمجموعات الخارجية ومتوسط درجات المعايير اللاحقة، ولكن هذا الارتباط عبر النماذج والمجموعات هو نتيجة للتلوث بالسبب المشترك الذي وصفته فجوة التحديد، ولا يمكن أن يُعتبر دليلًا سببيًا لنموذج واحد.

يقدم مسار الترميز التنبؤي تفسيرًا تكميليًا من منظور العقلانية الميكانيكية. تفترض نظرية الترميز التنبؤي الهرمي (Rao & Ballard 1999) أن القشرة الدماغية تتنبأ من الأعلى إلى الأسفل عبر نموذج توليدي، وتمرر أخطاء التنبؤ من الأسفل إلى الأعلى. يشير مبدأ الطاقة الحرة التباينية (Friston 2010) كذلك إلى أن تقليل الطاقة الحرة يعادل تعظيم أدلة النموذج، وهذا يتوافق مع مبدأ الحد الأدنى لطول الوصف (MDL) في نظرية المعلومات، مما يوفر إطارًا نظريًا لـ "لماذا تستهدف الأنظمة البيولوجية/المعرفية تقليل خطأ التنبؤ". ومع ذلك، تكمن قيود هذا المسار في أن مبادئه شبه غير قابلة للتكذيب (Colombo & Wright 2021)، وأن الترميز التنبؤي يضغط "النموذج التوليدي للبيئة" وليس "التوزيع الشرطي لمهمة العمل"، مما يوجد تضارب في الأهداف. علاوة على ذلك، فإن تقليل خطأ التنبؤ على المستوى الفردي لا ينطوي بالضرورة على تحسين جودة التسليم على مستوى المؤسسة، ويفتقر إلى قابلية التجميع المباشرة.

لسد الثغرات في الأبحاث الحالية، نقترح تجربة CAP-1 المسجلة مسبقًا "اضطراب الضغط المتعامد". هدفها الأساسي هو إجراء مقارنات "ضمن العنصر على مستوى السؤال" من خلال إدخال تباين ضغط "خارجي" تحت نفس أوزان النموذج (أي، سعة ثابتة). يهدف هذا التصميم إلى تجاوز انحياز السبب المشترك الشائع في دراسات مستوى النموذج، والتحقق مباشرة مما إذا كانت هناك فجوة تجميع بين جودة الأعمال والضغط. ستختبر هذه التجربة بشكل أساسي الافتراض المعدل P2' (تحسين الضغط للمواقع المتعلقة بالمهمة يرتبط إيجابًا بجودة الأعمال) والقدرة التنبؤية لـ P3 على مستوى السؤال. ولهذا الغرض، سنستخدم نموذج Qwen3.6-35B المحلي لحساب احتمالات اللوغاريتم لكل رمز، ونستخدم gpt-6-astra أو DeepSeek كنموذج خارجي محجوز لاختبار P4 الاستقرائي، ويجب التحقق بدقة من جميع الموارد قبل بدء التجربة [قيد التحقق].

تعتمد تجربة CAP-1 تصميمًا عامليًا 2×k، يتضمن نوعين من "العروض السياقية ذات الصلة" (نفس التنسيق، نفس نوع المهمة ولكن عميل/مجال مختلف) و"العروض السياقية العشوائية" (نفس الطول، نفس التنسيق ولكن مجال خاطئ)، مع تحديد k بجرعات 1، 2، 4، 8 لكل منهما، بالإضافة إلى خط أساس مشترك k=0. ستخضع كل سؤال لـ 1+2×4=9 شروط، بإجمالي 41×9=369 عملية توليد وتقييم BPB. الأهم من ذلك، ستقوم التجربة بتثبيت أوزان النموذج بدقة، وبايتات قالب المطالبة، و`temperature=0`، و`max_tokens`، لضمان أن المصدر الوحيد للاختلاف تحت نفس النموذج ونفس السؤال هو ما إذا كان العرض قد قدم ضغطًا قابلاً للنقل للمجال. سيتم سحب وتجميد مجموعة العروض من بنك أسئلة الأعمال الذي لا يتقاطع مع الأسئلة الأساسية الـ 41، بينما ستستخدم مجموعة التحكم العشوائية نصوصًا لها نفس الطول والتنسيق ولكن مجال خاطئ، للتحكم في العامل المتغير "المزيد من السياق/توجيه التنسيق".

تشمل المتغيرات المقاسة في التجربة: BPB الكلي ($C_{\text{total}}$)، و BPB على المواضع الحاملة للحقائق التي تم تحديدها بواسطة اثنين من المدوّنين المستقلين ($C_{\text{fact}}$)، و BPB للمواضع المتبقية ($C_{\text{other}}$). حيث يعتبر $C_{\text{fact}}$ الابتكار الرئيسي في هذا التصميم، ويهدف إلى فصل الضغط الكلي عن الضغط المتعلق بالمهمة بفعالية. ستُقيم جودة الأعمال Q من خلال حكم ثنائي على دقة الحقائق لـ 41 سؤالًا مُجمّدًا من قبل اثنين من المقيمين المكفوفين، وسيتم حل أي خلافات عن طريق التحكيم. بالإضافة إلى ذلك، سيتم جمع معدل القيود المفقودة ووقت المراجعة اليدوية كنقاط نهاية ثانوية. نحن [قيم التصميم] وضعنا افتراضات وعتبات محددة مسبقًا: H0 هو الفرضية الرئيسية، أي أنه في المقارنة بين `relevant(k=8)` و `random(k=8)`، يكون هناك تحسن في ضغط موضع الحقيقة $(\Delta C_{\text{fact}}\ge 0)$ ولكن لا يوجد تحسين في جودة الأعمال $(\Delta Q\le 0)$؛ و H1 هو الفرضية البديلة، أي أن العرض ذي الصلة يقلل بشكل كبير من طول كود موضع الحقيقة ($\Delta C_{\text{fact}}\le -0.05$ bits/byte) وأن جودة الأعمال تشهد تحسنًا ملحوظًا ($\Delta Q\ge 0.1$). من خلال هذه القياسات والافتراضات الدقيقة، سنتمكن من التحقق أو تكذيب حدود فرضية "الضغط يعني الذكاء" في التطبيقات العملية بدقة.