Hamiltonian Neural Networks: Does a Financial System Conserve Anything?
هناك سؤالان يمكنك طرحهما حول الشبكات العصبية الهاملتونية، وواحد منهما فقط مثير للاهتمام.
السؤال الممل هو "هل HNNs مستقرة؟" الجواب نعم، وهي نظرية وليست تجربة. قم بتشفير معادلات هاميلتون في البنية، ودمجها مع مخطط متماثل، ويمنحك تحليل الأخطاء العكسي خطأ الطاقة المحدود عبر آفاق طويلة بشكل كبير. لا يوجد شيء يتعلق بالتمويل. لا تحتاج إلى اختبار خلفي لتصديق ذلك.
والسؤال المثير للاهتمام هو السؤال الذي تفترضه نتيجة الاستقرار بهدوء: هل يعترف ناقل الحالة المالية بكمية محفوظة على الإطلاق؟ لا تكتشف شبكة HNN ما إذا كان موجود. يفترض موجود ويجد الأفضل في ظل هذا الافتراض. إذا لم يكن لدى الأسواق المحفوظة بالنسبة للإحداثيات التي اخترتها، ستظل الشبكة متقاربة، وستظل تنتج عددًا سلسًا، وستظل تتكامل دون أن تنفجر - وسيكون الأمر برمته نموذجًا مستقرًا للغاية من لا شيء.
يقوم هذا المنشور ببناء الآلة، ثم يقضي النصف الخلفي في محاولة كسرها. الادعاء قيد الاختبار ضيق وقابل للدحض: أن المختار الزوج - على سبيل المثال سعر السجل وEMA للعائدات - هو * مترافق بشكل قانوني *، وهذا يعني يحمل في الواقع بالنسبة للبعض . وهذا ادعاء تجريبي، والقسم النظري في المسودة لا يعطي أي سبب للاعتقاد به.
الميكانيكا الهاملتونية: ما الجديد هنا

مساحة الطور، والأنظمة الديناميكية، والمسارات، والمدارات هي بالفعل مفردات في هذه المدونة - راجع الجاذبات في التجارة الإلكترونية للتعاريف و المشعبات المعقدة لإعادة بناء مساحة الطور عبر تضمين Takens. ما يلي يفترضهم.
الجزء الجديد هو البنية المتماثلة. الميكانيكا الكلاسيكية لها صيغتان متكافئتان. نيوتن يعطي . يعطي هاملتون دالة عددية والتي تتبعها جميع الديناميكيات:
هناك ثلاث عواقب مهمة، ولا يتوفر أي منها للنموذج الديناميكي العام:
- ** يتم حفظه على طول المسارات. ** يقتصر النظام على سطح ثابت الطاقة - وهو مشعب منخفض الأبعاد داخل مساحة الطور. وهذا يشكل قيداً صارماً على الوجهة التي يمكن للدولة أن تتجه إليها، وليس ميلاً.
- ** النموذج المتماثل 2 محفوظ. ** حجم مساحة الطور محفوظ تمامًا (نظرية ليوفيل). لا يمكن للمسارات أن تتلاقى مع جاذب؛ التدفق غير قابل للضغط.
- الديناميكيات قابلة للعكس بمرور الوقت. قم بتشغيل التدفق للخلف وستستعيد الحالة الأولية تمامًا.
النقطة 2 تستحق التوقف عندها، لأنها تمثل أشد التوترات مع كل شيء آخر في هذه المدونة. تقول نظرية ليوفيل أن النظام الهاملتوني ليس له جاذبات. لا يمكن للتدفقات التي تحافظ على الحجم أن تنكمش على أي شيء. إذا كنت تعتقد أن الأسواق تتمتع ببنية جاذبة - وتجادل مقالة عوامل الجذب بأنها كذلك - فأنت ملتزم بالفعل بأن الأسواق ليست هاملتونية بالمعنى الدقيق للكلمة. هذا صراع حقيقي، وليس تقنيًا، وهذا هو السبب في أن الامتدادات التبددية أدناه ليست فكرة لاحقة.
لماذا يهم المتكامل
قم بمحاكاة نظام هاميلتون باستخدام مُتكامل ساذج (Euler, RK4) وينحرف المسار المحسوب ببطء عن سطح الطاقة الثابتة. خطأ الاقتطاع المحلي صغير؛ الخطأ الهندسي منهجي. على مدى الآفاق الطويلة، تصبح المحاكاة خاطئة من الناحية النوعية: فالمدارات التي ينبغي أن تنغلق تبدأ في التصاعد.
الشبكات العصبية القياسية لديها نفس العيب لسبب أعمق. لا تحتوي حالة تعيين MLP للمشتقات على آلية للحفاظ على أي شيء. فهو يتعلم الديناميكيات المحلية بشكل مناسب ويتراكم الأخطاء التي تتفاقم.
##مطالبة الحفظ، باختصار

لقد جادلت هذه المدونة بالفعل بأن الأسواق تلتزم بمبادئ تشبه الحفاظ على البيئة — Navier-Stokes for algotrading، الجزء 2 يشرح القضية بإسهاب، بدءًا من السيولة ككتلة وحتى إدارة المخاطر الهيدروديناميكية، ويضع إطارًا للفيزياء الاقتصادية بشكل صحيح. يعد تحسين متوسط التباين أيضًا أحد أنظمة لاغرانج في هذه المدونة: راجع نظرية محفظة ماركويتز للصيغة التربيعية المقيدة و التنفيذ الأمثل للمغرين-كريس لميزانية المخاطر/ تحديد الهوية، حيث يلعب بالضبط دور الزخم المترافق.
لم يتم إعادة استخلاص أي من ذلك هنا، لأن الحركة المثيرة للاهتمام مختلفة. تستخدم هذه المقالات الحفظ باعتباره استعارة تحفز النموذج. تحول HNN الحفظ إلى قيد معماري لا يمكن للنموذج أن ينتهكه حتى لو طلبت منه البيانات ذلك. هذا الاختلاف - القياس الناعم مقابل البنية الصلبة - هو المحتوى الكامل لما يلي، وهو يقطع الاتجاهين: القيد الذي لا تلبيه البيانات ليس سابقة، بل هو خطأ.
هندسة HNN: المحافظة الهيكلية مقابل المحافظة عليها

الآلية العامة المستنيرة للفيزياء - أخذ مشتقات autograd لمخرجات الشبكة فيما يتعلق بمدخلاتها، وتكوين بقايا فيزيائية، وتقليلها - تم توضيحها بالفعل في Navier-Stokes PINN، لمن physics_loss يبني u_t, u_x, u_xx عبر autograd.grad ومربعات المتبقية. يستخدم HNN نفس الآلية مع تغيير واحد، والتغيير هو بيت القصيد.
رمز PINN يعاقب انتهاكات القانون المادي. المتبقي هو مصطلح الخسارة مع الوزن؛ يقوم المُحسِّن باستبدالها بملاءمة البيانات. قم بتخفيض الوزن، أو تسليمه بيانات متضاربة، وسوف تنتهك الشبكة القانون بكل سرور. الحفظ هو الأفضلية.
إن HNN يجعل الحفظ ** هيكليًا **. لا يتعلم مجال المتجهات وهو غير مقيد ولا يحفظ شيئًا. يتعلم العددية ويستمد كلا مكوني حقل المتجه من تدرج واحد:
نظرًا لأن كلا المشتقتين تأتيان من جهد عددي واحد، فإن المجال الناتج يكون متدرجًا متناظرًا عن طريق البناء. ، بشكل مماثل، لكل إعداد معلمة - بما في ذلك شبكة تمت تهيئتها عشوائيًا وغير مدربة تمامًا. لا يوجد وزن لضبطه. الحفظ هو هوية جبرية للمعلمة، وليس مصطلحًا في الهدف.
يعد هذا ضمانًا أقوى بكثير مما يقدمه رقم التعريف الشخصي (PINN)، ويأتي مع وضع فشل أكثر وضوحًا. تقارن الخسارة المشتقات المشتقة بالبيانات المرصودة:
إذا لوحظ الحقل ليس تدرجًا متناظرًا لأي شيء - إذا كان يحتوي على حليقة لا يمكن أن تمثل المعلمات - فالخسارة ببساطة لا يمكن أن تصل إلى الصفر. الأرضية المتبقية ليست فشلاً في التحسين. إنه قياس لمدى بعد البيانات عن قبول هاميلتوني. هذا الرقم هو الناتج الأكثر فائدة لهذه البنية بأكملها، وهو الرقم الذي يتم تنظيم بقية هذا المنشور حوله.
الشبكة نفسها غير ملحوظة: MLP من من خلال طبقتين تانه بعرض 200 إلى ناتج عددي.
الإحداثيات
بالنسبة للتطبيقات المالية، هو مركز معمم (الأسعار القياسية، أوزان المحفظة، تعرضات العوامل) و زخم معمم (معدلات التغير، مؤشرات الزخم، متغيرات التدفق). ومن ثم هو أي شيء ثابت يمكن أن تجده الشبكة - ربما القيمة السوقية الإجمالية، وربما مقياس المخاطر، وربما كمية مجردة بدون قراءة اقتصادية، وربما لا شيء.
إن اختيار الاقتران ليس بريئًا، وهذه هي الفجوة في العرض القياسي. لا شيء عن " = سعر السجل، = EMA للعائدات" يثبت أنها مترافقة. الاقتران هو علاقة هيكلية محددة - يجب أن يكون الزخم مقترنًا بشكل قانوني بـ ، مثل ذلك يحمل بالنسبة للبعض . إن تأكيد ذلك واختباره هما نشاطان مختلفان، والأدبيات التي تعمل على تكييف HNNs للتمويل هي في الغالب ما تفعله.
| (مواضع) | (الزخم) |
|---|---|
| سجل الأسعار | EMA للعوائد |
| أوزان المحفظة | معدلات تغير الوزن |
التكامل المتماثل

تعلُّم هو نصف المشكلة. يتطلب توليد المسارات تكامل معادلات هاملتون، ويمكن للمتكامل أن يدمر ما تضمنه البنية.
التكاملات التماثلية يحفظ بالضبط. يتم الحفاظ على حجم مساحة الطور ، يتأرجح حول قيمته الحقيقية مع وجود خطأ محدد بدلاً من الانجراف بشكل مزمن، وتبقى المدارات صحيحة نوعيًا. يمنحك RK4 خطأً أصغر في كل خطوة ولا يحتوي على أي من هذه الخصائص.
أبسط مخطط سيمبلكتيكي هو Stormer-Verlet (قفزة):
للانفصال هذه تحديثات صريحة. إن الهاملتونيين الماليين غير قابلين للفصل بشكل عام - تعتمد ديناميكيات الزخم على الأسعار والعكس صحيح - وبالتالي فإن الحالة العامة تحتاج إلى خطوات ضمنية، أو أساليب ذات ترتيب أعلى (يوشيدا، فورست روث)، أو مسار SympNets أدناه.
تونغ وآخرون. (2020) أظهر أن تكوين خطوات القفز كطبقات الشبكة ينتج بنيات متناظرة من خلال البناء: كل طبقة عبارة عن خطوة تكامل، والعمق يساوي عدد الخطوات، والخريطة المستفادة يحافظ على البنية Symplectic بالضبط.
ضمانات الاستقرار: حقيقية، وبجانب الموضوع

خصائص الاستقرار تنبع من النظريات، وهذا هو بالضبط السبب في أنها لا تثبت شيئا عن الأسواق.
تحليل الخطأ الرجعي. تم تطبيق التكامل المتماثل على يحل بالضبط * قريب * هاملتونيان . المسار المحسوب هو المسار الدقيق لنظام مضطرب قليلاً، ونظرية KAM تحدد خطأ الطاقة على مدى فترات طويلة بشكل كبير.
** استقرار ليابونوف.** إذا لديه الحد الأدنى في التوازن ، هي في حد ذاتها دالة ليابونوف تثبت استقرار التوازن. لا حاجة لتحليل منفصل.
وكلتا النتيجتين مشروطتان كونه الكائن الصحيح. They tell you the simulation of the learned system is faithful; لا يقولون شيئًا عما إذا كان النظام المتعلم هو السوق. محفوظة تماما تم تركيبها على أرضية متبقية تبلغ 0.9 وهي محاكاة مستقرة لقطعة أثرية.
| عقار | قياسي NN + RK4 | HNN + سيمبلكتيك |
|---|---|---|
| انجراف الطاقة أكثر من 1000 خطوة | العلمانية، تتراكم | يحدها، متذبذب |
| انعكاس الزمن | لا | نعم |
| حجم مساحة الطور | غير محفوظ | محفوظ تمامًا |
| عوامل جذب تمثيلية | نعم | لا (ليوفيل) |
| ثابت قابل للتفسير | لا شيء |
التنفيذ

وحدة HNN الأساسية
import torch
import torch.nn as nn
class HamiltonianNN(nn.Module):
"""Learns a scalar H(q, p); derives dynamics via Hamilton's equations."""
def __init__(self, input_dim: int, hidden_dim: int = 200):
super().__init__()
self.net = nn.Sequential(
nn.Linear(input_dim, hidden_dim), nn.Tanh(),
nn.Linear(hidden_dim, hidden_dim), nn.Tanh(),
nn.Linear(hidden_dim, 1),
)
def hamiltonian(self, q: torch.Tensor, p: torch.Tensor) -> torch.Tensor:
return self.net(torch.cat([q, p], dim=-1))
def time_derivative(self, q: torch.Tensor, p: torch.Tensor):
q = q.requires_grad_(True)
p = p.requires_grad_(True)
H = self.hamiltonian(q, p)
dH_dq, dH_dp = torch.autograd.grad(H.sum(), [q, p], create_graph=True)
return dH_dp, -dH_dq # dq/dt, dp/dt
مُتكامل Leapfrog
class LeapfrogIntegrator:
"""Stormer-Verlet integrator. Preserves the symplectic structure."""
def __init__(self, hnn: HamiltonianNN, dt: float = 0.01):
self.hnn, self.dt = hnn, dt
def step(self, q: torch.Tensor, p: torch.Tensor):
_, dp_dt = self.hnn.time_derivative(q, p)
p_half = p + 0.5 * self.dt * dp_dt
dq_dt, _ = self.hnn.time_derivative(q, p_half)
q_new = q + self.dt * dq_dt
_, dp_dt = self.hnn.time_derivative(q_new, p_half)
return q_new, p_half + 0.5 * self.dt * dp_dt
def integrate(self, q0, p0, n_steps: int):
traj_q, traj_p, q, p = [q0], [p0], q0, p0
for _ in range(n_steps):
q, p = self.step(q, p)
traj_q.append(q); traj_p.append(p)
return torch.stack(traj_q), torch.stack(traj_p)
إحداثيات المرحلة الفضائية
تعد الأسعار القياسية والعوائد المتباينة وزخم المتوسط المتحرك الأسي (EMA) والتقلبات المتداولة من البناء القياسي في هذه المدونة - خط أنابيب نموذج الانتشار و المشعبات المعقدة كلاهما شحنه. الخطان الوحيدان المهمان هنا هما الخطان اللذان يحددان الزوج المترافق:
q = np.log(prices)[w:-1] # generalised position
p = ewma(np.diff(np.log(prices), axis=0), w)[w-1:-1] # generalised momentum
كل شيء في اتجاه المصب – فرق محدود , ، محاذاة الطول، فإن حلقة التدريب التي تطابق المشتقات المشتقة مع تلك المرصودة مع آدم — هي ميكانيكية.
فحص الحفظ
def measure_conservation(hnn, integrator, q0, p0, n_steps=1000):
"""Energy drift along an integrated trajectory."""
with torch.no_grad():
traj_q, traj_p = integrator.integrate(q0, p0, n_steps)
energies = torch.stack([
hnn.hamiltonian(traj_q[i], traj_p[i]) for i in range(n_steps + 1)
]).squeeze().numpy()
return {
"H_initial": energies[0],
"H_final": energies[-1],
"drift": energies[-1] - energies[0],
"oscillation": energies.std(),
"relative_error": abs(energies[-1] - energies[0]) / abs(energies[0]),
}
لاحظ ما لا تختبره هذه الوظيفة. وهو يقيس ما إذا كان المتكامل يحفظ - وهو ما سيكون، من الناحية النظرية، سواء كان ذلك أم لا يعني أي شيء. الحفظ في العينة للهاميلتوني المتعلم ليس دليلاً. الاختبار المهم مختلف.
اختبار التزوير

تتكون التجربة الصادقة من ثلاثة أجزاء، وهي مصممة بحيث تكون النتيجة السلبية مفيدة وليست محرجة.
1. الأرضية المتبقية. مناسب على البيانات الحقيقية والإبلاغ عن الخسارة المتقاربة، وليس الحفظ. لا يمكن لمعلمات التدرج التماثلي أن تمثل حقلًا متجهًا ذو تجعيد؛ يقيس الأرضية المكون غير الهاملتوني للديناميكيات المرصودة. قم بتركيب MLP غير مقيد على البيانات المطابقة للمرجع - ليس لديه أي قيود هيكلية، وبالتالي فإن الفجوة بين الطابقين هي تكلفة افتراض هاميلتون، المذكور في وحدات الخسارة للمشكلة.
2. الحفظ خارج العينة. احتواءه على نافذة واحدة، ثم تقييمه على طول المسار الملاحظ خارج العينة - مسار السعر الحقيقي، وليس مسارًا متكاملاً. لو هو قانوني حقًا، يبقى ثابتًا تقريبًا على طول البيانات التي لم يراها أبدًا. لو يتجول خارج العينة، وكانت الكمية المحفوظة قطعة أثرية في العينة وضمان الهندسة المعمارية لا يقوم بأي عمل.
**3. الاستئصال المنسق. ** هذا هو الجزء الذي يتطلبه القسم النظري ولا يبدو أنه يتم عرض أي عرض تقديمي للـ HNNs المالية. لا شيء يثبت أن سعر السجل ومتوسط العائدات المتحرك (EMA) مترافقان؛ تم التأكيد على ذلك. لذا، قم باختبار الأزواج مقابل بعضها البعض - (سعر السجل، عوائد EMA)، (سعر السجل، عوائد الخام)، (أوزان المحفظة، معدلات تغير الوزن) - وقم بترتيبها حسب خارج العينة استقرار. ضد بديل العوائد المختلطة كسيطرة: تدمير البنية الزمنية، والحفاظ على التوزيع الهامشي، والتجديد. إذا كان البديل غلة قابلة للمقارنة الاستقرار، فإن "الكمية المحفوظة" هي خاصية للمحددات وليس للسوق.
لقد تم ذكر سابقتي قبل الحقيقة حتى يمكن التحقق منها مقابل النتيجة: هذا فشل. المنطق موجود في التمهيدي أعلاه - نظرية ليوفيل تحظر الجاذبين، ويبدو أن الأسواق لديها هيكل جاذب، وكلا فتحتي الهروب أدناه هي اعترافات بأن الافتراض الهاملتوني الصارم لا يصمد. إذا كانت الأرضية المتبقية مرتفعة وخارجة عن العينة غير مستقر عبر كل اقتران، وهو أمر سلبي واضح تم قياسه على أساس مطلع على الفيزياء، وقد نشرت هذه المدونة تلك من قبل (السلبية الصادقة، شارب مفرغ). إن النتيجة السلبية المُقاسة على نظرية أنيقة تستحق أكثر من برنامج تعليمي لم يتم اختباره.
إذا فشل الحفظ: الامتدادات المبددة

تسرب الأسواق الحقيقية. تكاليف المعاملات، والانزلاق، واضمحلال المعلومات تزيل الطاقة من النظام، ويتم الحفاظ عليها بشكل صارم لا يمكن أن يمثل ذلك. يوجد تخفيفان مبدئيان، ويجب قراءة كليهما على أنهما تنازلات بأن الافتراض كان قويًا جدًا، وليس على أنه تحسينات:
- ** هاميلتوني مطابق **: نموذج مع معدل تبديد المستفادة . حجم المجهزة هو في حد ذاته مقياس - إلى أي مدى يقع النظام من النظام المحافظ.
- بورت هاملتون: ، مع المصفوفة المعقدة, مصفوفة التبديد، و external forcing (news, flows). هنا نسبة إلى quantifies the departure directly.
كلاهما يستعيد القدرة على تمثيل عوامل الجذب، على حساب ضمان الخطأ المحدود الذي حفز الهندسة المعمارية. هذه هي التجارة، الموضحة بوضوح: يمكنك الحصول على ليوفيل أو يمكنك الحصول على التبديد، ويبدو أن الأسواق تريد الثانية.
المشاكل المفتوحة ذات الصلة: الهاملتونيون الماليون غير قابلين للفصل (يتطلبون خطوات متناظرة ضمنية أو ذات ترتيب أعلى، أو SympNets تعلم الخرائط المتماثلة مباشرة)، وتعمل الأسواق على نطاقات زمنية متعددة لا يمكن تطبيقها إلا على نطاق زمني واحد من غير المرجح أن يتم التقاط - هاميلتونيين هرميين للديناميكيات السريعة والبطيئة، أو معالجة ثابتة الحرارة للمتغيرات البطيئة كمعلمات للنطاق السريع .
الخلاصة

تعمل الآلات. تعلم العددية ، اشتق المجال المتجه من تدرجه، وادمجه بشكل متناظر، وستحصل على الحفظ كهوية جبرية، والخطأ المحدود عبر آلاف الخطوات، وإمكانية عكس الوقت بدقة، ودالة Lyapunov مجانًا. كل واحدة من هذه الادعاءات هي نظرية ولا يتطلب أي منها التحقق من صحتها.
ما يتطلب التحقق من الصحة هو الفرضية. لا تختبر HNNs ما إذا كانت الكمية المحفوظة موجودة أم لا، بل تفترضها وتحسنها وفقًا للافتراض، وتتقارب إلى نموذج سلس ومستقر وحسن التصرف بغض النظر. The residual floor and out-of-sample الاستقرار هما الرقمان الوحيدان اللذان يميزان "السوق يحافظ على شيء ما" من "المعاملات تنتج دائمًا شيئًا ما".
لذا فإن السؤال الذي ينتهي به هذا المنشور ليس ما إذا كانت HNNs مستقرة. يتعلق الأمر بما إذا كانت الأناقة ستنجو من الاتصال بـ BTCUSDT - وإلى أن تظهر هذه الأرقام على الصفحة، فإن الموقف الصحيح تجاه كل مطالبة بالحفظ في التعلم الآلي المالي، بما في ذلك هذه المطالبة، هو أنه لم يتم اختبارها.
المراجع
- جريدانوس، س.، دزامبا، م.، وسبراغ، ج. (2019). الشبكات العصبية الهاملتونية. نيوريبس 2019.
- تونغ، واي، شيونغ، إس، هي، إكس، بان، جي، وتشو، بي (2020). الشبكات الهاملتونية العميقة المبنية على التكاملات التماثلية. طبعة arXiv المسبقة.
- باكي، ب. إ. (2000). هاملتونيان في الأسواق المالية. طبعة arXiv المسبقة.
- كوتلر، جيه. وريزتشيكوف، س. (2023). محاكاة هاملتونية فعالة لحل ديناميكيات أسعار الخيارات. أبحاث المراجعة البدنية.
- جونون، بي. وأورتيجا، جيه.-بي. (2009). أسواق الأسهم وديناميكيات الكم. طبعة arXiv المسبقة.
- جريدانوس، س. (2019). الشبكات العصبية الهاملتونية — مشاركة مدونة.
- سانتوس، C. وآخرون. (2022). الشبكات العصبية ذات الزخم المتماثل. PMLR.
Authors
Trading-systems engineer
Trading-systems engineer building bots since 2017: cross-exchange arbitrage (connected up to 30 venues), cointegration-based pairs arbitrage across spot and futures, scalping, news and sentiment-driven strategies, trend algorithms, and portfolio management and balancing algorithms. Also builds sub-millisecond order execution, big-data warehouses, backtesting engines, AI agents, and trading interfaces (incl. open-source profitmaker.cc). Stack: JS/TS, Python, Rust/Zig/Go, DevOps, backend, frontend, architecture.