DepthFeed/Both venues·الاختبار الخلفي للذكاء الاصطناعي

الاختبار الخلفي لأسواق التنبؤ بالذكاء الاصطناعي: اختبار استراتيجيات LLM دون تسرب مستقبلي

الاستراتيجية المولّدة بالذكاء الاصطناعي ليست اختبارًا خلفيًا. يجب التحكم في النموذج، وحدود المعلومات، وبروتوكول القرار، وحالة المحفظة، والتعبئة القابلة للتنفيذ عند الساعة التاريخية.

DepthFeed··15 min

يقوم الاختبار الخلفي لأسواق التنبؤ بالذكاء الاصطناعي بتقييم قاعدة أو قرار نموذج LLM باستخدام المعلومات المتاحة فقط عند كل طابع زمني تاريخي. يجمّد الاختبار الموثوق الموجه والسوق المعني، ويحجب النتائج المحسومة والحقائق المستقبلية، ويعيد تشغيل الأوامر مقابل العمق المسجل، ويحافظ على حالة المحفظة، ويبلغ عن كل قرار ورفض وتعبئة.

لماذا يعد الاختبار الخلفي للذكاء الاصطناعي مشكلة منفصلة

يمكن مراجعة القاعدة الحتمية سطرًا بسطر. أما LLM فيمكنه تغيير منطقه الاستدلالي مع الموجه، وإصدار النموذج، والسياق، ونتائج الأدوات، وإعدادات العينات. وقد يعرف أيضًا حقائق حدثت بعد التاريخ المحاكَى لأن بيانات تدريبه أو أداة بحث مرفقة تتجاوز الساعة التاريخية. ولا يتحكم الاختبار الخلفي العادي للتداول تلقائيًا في هذه المخاطر.

تجعل أسواق التنبؤ التسرب شديدًا بشكل خاص. يكون سؤال السوق والتسوية النهائية علنيين بعد التسوية، لذا قد يبدو النموذج وكأنه يتنبأ بحدث بينما يسترجع أو يستنتج إجابته من معلومات لاحقة. يجب أن يحافظ الاختبار على سلامة وقت السوق وسلامة وقت النموذج معًا.

سيرورتا عمل للاختبار الخلفي للذكاء الاصطناعي

يدعم سير العمل العام الحالي الخاص بـDepthFeed المسار الأول: اطلب من النموذج اقتراح فرضية واضحة، وترجمها إلى قاعدة مُعدّة مسبقًا أو مخصصة، وجمّد المعلمات، وشغّلها عبر مختبر الاختبار الخلفي. يفصل هذا بين توليد الأفكار والتقييم ويجعل إعادة التشغيل قابلة للتكرار.

تتطلب إعادة تشغيل النموذج في الحلقة ضوابط إضافية: بيئة معلومات مغلقة، وحالة محفظة متسلسلة، وسجلات دائمة لاستدعاءات النموذج، وشريط زمني محدد لكل دورة. لا تصف سجل محادثة حول أسواق محسومة على أنه هذا الشكل الأقوى من الاختبار الخلفي.

سير العملما يتم تجميدهأفضل استخدام
قاعدة مولّدة بالذكاء الاصطناعييصبح مخرج الموجه منطقًا حتميًا صريحًا مرة واحدةاختبار ما إذا كانت فرضية الذكاء الاصطناعي تصمد أمام بيانات السوق والتنفيذ
إعادة تشغيل النموذج في الحلقةيتم تشغيل النموذج، والموجه، والأدوات، والسياق الزمني المحدد عند كل قرارتقييم متنبئ أو وكيل محفظة مستقل

بناء حدود المعلومات التاريخية

يستخدم التنفيذ الأكثر أمانًا حدًا زمنيًا حتى تاريخه: الطابع الزمني للمصدر أقل من أو يساوي وقت القرار. يجب أن يرث كل ميزة وملخص واستجابة أداة هذا الحد. يمكن لحقل واحد غير مقيد، مثل حالة السوق الحالية أو تسمية النتيجة النهائية، أن يبطل التشغيل بالكامل.

  • حدد طابعًا زمنيًا للقرار وأدرج فقط صفوف السوق التي تمت ملاحظتها عنده أو قبله.
  • حدد أي فترة رجعية متحركة بشكل صريح؛ لا تستخدم أبدًا أقرب صف يمكن أن يأتي من المستقبل.
  • استبعد نتائج التسوية، والأسعار النهائية، والعناوين اللاحقة، والبحث الحالي على الويب.
  • سجّل بالضبط مجموعة الأسواق المعروضة على النموذج، بما في ذلك العقود التي تخطاها.
  • قم بتجزئة أو إصدار الشريط المدخل بحيث يمكن إعادة بناء نفس القرار لاحقًا.
  • أبلغ عن البيانات المفقودة كمفقودة بدلاً من ملئها من ملاحظة لاحقة.

منع تسرب الإجابة والموجه

جمّد الموجه النظامي، وتعليمات العميل، ومعرّف النموذج، ووضع العينات، ومخطط الإخراج المنظم، والأدوات المتاحة. أزل اللغة التي تكشف النتيجة بشكل غير مباشر، بما في ذلك حالة السوق النهائية، وصياغة التسوية، وملخصات المقالات الاسترجاعية، أو أسماء الملفات المنشأة بعد الحسم.

بالنسبة لأسئلة الأحداث التاريخية، افترض أن ذاكرة النموذج المُدرّب مسبقًا قد تحتوي على حقائق لاحقة حتى عند تعطيل التصفح. استخدم أسئلة آمنة من القطع حيثما أمكن، وقم بتقييم ضوابط التسرب بشكل منفصل، وقارن الأداء على فترات أحدث أو محجوزة بشكل خاص. لا تشكل الدرجة العالية على أحداث محسومة معروفة دليلًا بحد ذاتها على مهارة التنبؤ.

اجعل بروتوكول القرار قابلًا للتدقيق

اطلب إجراءات منظمة بدلاً من التوصيات الحرة. يتضمن القرار المفيد هوية السوق، والجهة، والاحتمالية المقدرة، والثقة، وسعر الدخول الأقصى، والقيمة الاسمية المطلوبة، وموجزًا للفرضية. يجب على القواعد من جانب الخادم بعد ذلك قبول الاقتراح أو إعادة تحجيمه أو رفضه وفقًا للنقد، والتعرض، والثقة، وedge، وحدود السعر.

خزّن التمريرات والصفقات المرفوضة، وليس فقط التنفيذات. إذا كان التقرير النهائي يحتوي فقط على الرابحين الذين اختارهم النموذج، فلا يوجد مقام لتحليل الانتقائية أو التغطية أو الفشل. يجب أن يربط السجل الدائم كل إجراء بحدود الإدخال الدقيقة وحالة المحفظة الناتجة.

أعد تشغيل المحفظة بشكل متسلسل

يجب أن تعمل دورات المحفظة بترتيب زمني لأن قرارًا واحدًا يغير النقد والتعرض المفتوح المتاح للتالي. يمكنك موازاة اكتشاف السوق داخل طابع زمني إذا لزم الأمر، لكن اصنع قرارًا واحدًا نهائيًا للمحفظة مقابل شريط واحد مجمد. لا تدع استدعاءات النموذج المستقلة تنفق نفس النقد.

انقل المراكز المفتوحة، والنقد المحقق، وحدود المخاطر إلى الأمام. ثم أبلغ عن P&L حسب الفئة والمكان وكذلك بشكل إجمالي. يكشف هذا ما إذا كانت المحفظة الذكية ظاهريًا عبارة عن رهان اتجاهي مركّز يتكرر عبر عقود مترابطة.

استخدم التعبئة القابلة للتنفيذ، وليس السعر المذكور من النموذج

قد يذكر النموذج سعرًا أقصى؛ لا ينبغي السماح له باختراع تعبئته الخاصة. أضف تأخير تنفيذ محدد، وحدد أول دفتر مسجل عند أو بعد ذلك الوقت المحاكَى، وسر على العروض أو الطلبات المتاحة فقط حتى الحد. خزّن VWAP، والكسر المنفذ، ووقت الملاحظة، والدفتر المستخدم.

قيّم المحفظة النهائية بشكل متحفظ. تفترض علامة المنتصف التصفية دون عبور الفارق أو استهلاك الحجم. توفر التصفية القابلة للتنفيذ الواعية بالعمق إجابة أفضل عما كان يمكن أن تحققه المحفظة؛ يجب أن تبقى الدفاتر القديمة أو الغائبة حالة فشل صريحة.

سير عمل مُجرَّب: من فرضية LLM إلى إعادة التشغيل

ابدأ بموجه محدود: اطلب من النموذج فرضية واحدة قابلة للدحض Polymarket أو Kalshi، والمدخلات القابلة للملاحظة المطلوبة، وقاعدة دخول دقيقة، وحجم المركز، وسلوك الخروج أو التسوية، والظروف التي يجب أن يمر فيها. امنع ادعاءات الربح واطلب عدم وجود أمثلة استرجاعية.

ترجم الإجابة إلى قاعدة مُعدة مسبقًا أو مخصصة في مختبر الاختبار الخلفي دون تغيير عتباتها بعد رؤية النتائج. حدد المكان المقصود وعائلة السوق، واستخدم عينة زمنية، وقارن بين سعر المنتصف، والانزلاق الثابت، والعمق المسجل. افحص كل صفقة واحتفظ بعينة احتجاز لاحقة. إذا نجت، انشر القاعدة المجمدة إلى التداول الورقي وقيمها على نتائج لم يكن النموذج ليعرفها عند إنشاء القاعدة.

مقاييس تميز التنبؤ عن التداول

جودة التنبؤ وأداء التداول مرتبطان لكن ليسا متطابقين. يمكن للنموذج المُعاير أن يخسر بدفع أسعار تعكس معلوماته بالفعل. ويمكن للنموذج غير المُعاير أن يربح لفترة وجيزة بفضل الحظ أو مركز واحد مركّز. أبلغ عن كلا الطبقتين وتجنب اختزال التقييم إلى عنوان لوحة صدارة.

السؤالالمقياسالفشل الذي يكتشفه
هل كانت الاحتمالات مفيدة؟Brier score, log loss, calibrationتنبؤات واثقة لكن غير دقيقة
هل كانت الإجراءات مربحة بعد التنفيذ؟صافي P&L، ROI، edge قابل للتنفيذتنبؤات جيدة تم شراؤها بأسعار سيئة
هل كانت النتيجة مركزة؟P&L حسب المكان والفئة والوقتحدث أو نظام واحد يحمل التشغيل
هل تم التحكم في المخاطر؟Drawdown, exposure, عدد المراكزربح ناتج عن تركيز مفرط
هل كان النموذج انتقائيًا؟الصفقات، والتمريرات، ومعدلات الرفضتقارير منتقاة بدون مقام
هل كان التشغيل قابلاً للتكرار؟تجزئات الموجه، والنموذج، والشريط، والدفترنتيجة لا يمكن إعادة تشغيلها بشكل مستقل

قارن النماذج دون تحريك المرمى

  • أعط كل نموذج نفس الشريط السوقي المجمد، ومجموعة الأدوات، ومخطط الإخراج، وحدود المحفظة.
  • استخدم نفس الطوابع الزمنية للقرار، وزمن انتقال التنفيذ، ومحرك التعبئة، وقاعدة التقييم النهائي.
  • افصل فشل المزود، والمخرجات غير الصالحة، ورفض قواعد المخاطر عن خسائر السوق.
  • سجّل تكلفة الرموز والنموذج بجانب الأداء؛ قد لا يبرر الربح الهامشي تكلفة استدلال أعلى بكثير.
  • كرر عمليات التشغيل العشوائية أو استخدم إعدادات حتمية حيثما تدعم، وأبلغ عن التباين.
  • حافظ على صفحات النماذج المسماة والادعاءات محدثة لأن إصدارات النماذج وتوفرها يتغيران.

صنف الإخفاقات بدلاً من إخفائها

تعني هذه النتائج أشياء مختلفة. معاملة انتهاء مهلة المزود كتمريرة واثقة يضخم الانتقائية؛ وإسقاط أمر غير منفذ يبالغ في تقدير الأداء القابل للتنفيذ؛ وإصلاح مخرجات النموذج المشوهة بصمت يمنح نموذجًا واحدًا مساعدة بشرية قد لا تتلقاها النماذج الأخرى. يجب أن يحدد التقييم كل فئة قبل التشغيل ويطبقها آليًا.

انشر القمع الكامل: الأسواق المؤهلة، والأسواق المعروضة، والإجراءات المقترحة، والتمريرات، والمخرجات غير الصالحة، ورفض حواجز الحماية، ورفض التنفيذ، والتعبئة الجزئية، والمراكز المكتملة. هذا المقام يجعل من الممكن التمييز بين نموذج حذر ونموذج غير موثوق.

فئة الإخفاقمثالكيفية الإبلاغ عنها
فشل المعلوماتحقيقة مستقبلية، أو حقل تسوية، أو عرض سعر لاحق دخل السياقأبطل الدورة أو التشغيل المتأثر
فشل المزودانتهاء المهلة، أو حد المعدل، أو نموذج غير متاحاحسب بشكل منفصل عن تمرير السوق
فشل المخططإجراء غير صالح، أو معرف سوق مفقود، أو احتمالية غير قابلة للتحليلخزّن الاستجابة الخام والرفض
رفض المخاطرالحجم المطلوب تجاوز النقد، أو حدود التعرض، أو السعرأبلغ عنه كاقتراح نموذج مرفوض بواسطة حواجز الحماية
رفض التنفيذلا يوجد دفتر في الوقت المناسب، أو لا يوجد عمق تحت الحد، أو تعبئة صفريةاحتفظ به في مقام التداول
خسارة السوققرار منفذ صالح تمت تسويته مقابل الجهة المختارةأدرج بشكل طبيعي في P&L وتسجيل التنبؤ

سجل الحد الأدنى لإمكانية التكرار

لكل تشغيل، احتفظ بمزود النموذج والاسم الدقيق للنموذج، وقوالب الموجه، وتعريفات الأدوات، ومخطط الإخراج المنظم، وتكوين العينات، وتعليمات العميل. سجّل البداية والنهاية التاريخيتين، وفاصل القرار، وفترة الرجوع، والأماكن، والفئات، والنقد الابتدائي، وحدود التعرض، وزمن انتقال التنفيذ، وطريقة التقييم النهائي.

لكل دورة قرار، احتفظ بالطابع الزمني للقرار، وإصدار الشريط، ووقت الشريط حتى تاريخه، وعدد الأسواق المؤهلة، وتجزئة الإدخال، والمحفظة قبل وبعد، واستخدام النموذج، وحالة الخطأ. لكل صفقة مقترحة، خزّن فرضيتها واحتماليتها إلى جانب احتمالية السوق المرصودة، والثقة، وسعر الحد، والحجم المطلوب، ورمز الرفض، والدفتر التاريخي المستخدم لأي تعبئة.

يمكن تحديث نماذج المزودين خلف اسم ثابت، لذا قد تختلف إعادة التشغيل الدقيقة لاحقًا. لا يمكن للسجل الدائم أن يزيل تباين المنصة هذا، لكنه يمكن أن يكشفه. حيثما لا تتوفر بذور حتمية أو إصدارات مثبتة، كرر نفس الاختبار مرات كافية للإبلاغ عن التشتت بين التشغيلات بدلاً من تقديم عينة واحدة مواتية.

  • اسم النموذج، والمزود، والموجه، والأدوات، والمخطط، وإعدادات العينات.
  • الحدود التاريخية، ومجموعة السوق، وفاصل القرار، وفترة الرجوع.
  • حدود المحفظة، وزمن انتقال التنفيذ، ومحرك التعبئة، والتقييم النهائي.
  • تجزئات الإدخال والدفتر المرتبطة بكل قرار وتعبئة.
  • استخدام الرموز، وتكلفة النموذج، والمخرجات غير الصالحة، وجميع أسباب الرفض.
  • تباين التشغيل المتكرر عندما يكون النموذج أو المزود عشوائيًا.

اختبر للأمام قبل تقديم ادعاء بأداء الذكاء الاصطناعي

لا يزال بإمكان اختبار الذكاء الاصطناعي التاريخي الاستفادة من ذاكرة النموذج، وضبط الباحث للموجه، والتجريب المتكرر. الخطوة التالية الأنظف هي فترة ورقية أمامية مقفلة. جمّد الموجه أو القاعدة المستخرجة، وابدأ بعد أن يكون التكوين نهائيًا، وسعّر كل إجراء من الدفتر المعروض المباشر، وانشر المقام الكامل.

يوفر DepthFeed Paper Trading المسار الأمامي المتاح للقواعد الحتمية وإشارات الروبوت الخارجية. يستخدم نقدًا افتراضيًا ولا يضع أوامر تبادل حية. يجب أن يظل هذا التمييز مرئيًا في أي مكان يوصف فيه سير عمل الذكاء الاصطناعي.

ما يقدمه DepthFeed اليوم

اليوم، يمكن للباحثين استخدام نموذج ذكاء اصطناعي لإنشاء أو تحسين استراتيجية صريحة، وإعادة تشغيل تلك القاعدة المجمدة في مختبر الاختبار الخلفي مقابل دفاتر أسواق التنبؤ المسجلة، ومقارنة ثلاثة افتراضات للتعبئة، وفحص المخاطر والصفقات الفردية، ونقل الناجين المتوافقين إلى التداول الورقي المباشر. كما تدعم البيانات التاريخية API وخادم MCP أبحاث الوكلاء المخصصة خارج لوحة التحكم.

لا يعلن DepthFeed حاليًا عن اختبار خلفي ذاتي عام للنموذج في الحلقة API أو تنفيذ تداول حي بالذكاء الاصطناعي. سير العمل الأضيق مقصود وقابل للاختبار: يقترح النموذج؛ تقيّم أدلة السوق المسجلة؛ يوفر التداول الورقي السجل الأمامي.

Key takeaways

  • 01توليد أفكار الذكاء الاصطناعي وإعادة تشغيل النموذج في الحلقة هما منتجان مختلفان ويتطلبان أدلة مختلفة.
  • 02احجب التسوية، والصفوف المستقبلية، والبحث الحالي، والحقائق اللاحقة عند كل قرار تاريخي.
  • 03جمّد النموذج، والموجه، والأدوات، والمخطط، والمجموعة، وقيود المحفظة قبل مقارنة النتائج.
  • 04خزّن التمريرات، والرفض، واستدعاءات النموذج، وحدود الإدخال بالإضافة إلى التعبئة المربحة.
  • 05أعد تشغيل النقد والمراكز بشكل متسلسل، ثم نفذ مقابل العمق المسجل بعد زمن انتقال محدد.
  • 06أبلغ عن calibration، وP&L، والمخاطر، والتركيز، وتكلفة الاستدلال، وقابلية التكرار بشكل منفصل.
  • 07استخدم فترة ورقية أمامية مقفلة قبل تقديم أي ادعاء بأداء الذكاء الاصطناعي.

الاستراتيجية المولّدة بالذكاء الاصطناعي ليست اختبارًا خلفيًا. يجب التحكم في النموذج، وحدود المعلومات، وبروتوكول القرار، وحالة المحفظة، والتعبئة القابلة للتنفيذ عند الساعة التاريخية.

ابدأ مجانًا

أسئلة، مُجابة.

إنه تقييم تاريخي لقاعدة مولّدة بالذكاء الاصطناعي أو عملية قرار نموذج باستخدام المعلومات المتاحة فقط عند كل وقت محاكى. يجب أن يتحكم الاختبار في التسرب المستقبلي، ويحافظ على حالة المحفظة، وينفذ مقابل سيولة السوق التاريخية، ويسوي من نتيجة العقد الحقيقية.

ابدأ الاختبار الرجعي لـ Polymarket & Kalshi على عمق حقيقي.

مجاني للبدء، دون بطاقة. ارتقِ بخطتك حين تصبح استراتيجيتك جاهزة لدفتر الأوامر الكامل.

ابدأ مجانًا