Hamiltonian Neural Networks: Does a Financial System Conserve Anything?

हैमिल्टनियन न्यूरल नेटवर्क्स के बारे में आप दो प्रश्न पूछ सकते हैं, और उनमें से केवल एक ही दिलचस्प है।

उबाऊ सवाल यह है कि "क्या एचएनएन स्थिर हैं?" इसका उत्तर हाँ है, और यह एक प्रमेय है, प्रयोग नहीं। हैमिल्टन के समीकरणों को वास्तुकला में एनकोड करें, एक सहानुभूतिपूर्ण योजना के साथ एकीकृत करें, और बैकवर्ड त्रुटि विश्लेषण आपको तेजी से लंबे क्षितिज पर सीमित ऊर्जा त्रुटि प्रदान करता है। वित्त के बारे में कुछ भी शामिल नहीं है। इस पर विश्वास करने के लिए आपको किसी बैकटेस्ट की आवश्यकता नहीं है।

दिलचस्प सवाल यह है कि स्थिरता का परिणाम चुपचाप मान लिया जाता है: क्या एक वित्तीय स्थिति वेक्टर किसी संरक्षित मात्रा को स्वीकार करता है? एक एचएनएन यह पता नहीं लगाता है कि क्या $H$ मौजूद है. यह मानता है $H$ मौजूद है और उस धारणा के तहत सर्वश्रेष्ठ को ढूंढता है। यदि बाजारों में कोई संरक्षण नहीं है $H$ आपके चुने हुए निर्देशांक के लिए, नेटवर्क अभी भी अभिसरण करेगा, फिर भी एक चिकनी स्केलर का उत्पादन करेगा, फिर भी बिना उड़ाए एकीकृत होगा - और पूरी चीज़ कुछ भी नहीं का एक बहुत ही स्थिर मॉडल होगी।

यह पोस्ट मशीनरी का निर्माण करती है, फिर पिछला आधा हिस्सा उसे तोड़ने की कोशिश में खर्च करती है। परीक्षण के तहत दावा संकीर्ण और मिथ्या है: कि एक चुना गया $(q, p)$ जोड़ी - लॉग-प्राइस और रिटर्न का ईएमए कहें - कैनोनिकली संयुग्मित है, जिसका अर्थ है $dq/dt = \partial H/\partial p$ वास्तव में कुछ के लिए धारण करता है $H$. यह एक अनुभवजन्य दावा है, और मसौदे का अपना सिद्धांत खंड इस पर विश्वास करने का कोई कारण नहीं देता है।

हैमिल्टनियन मैकेनिक्स: यहां वास्तव में नया क्या है

चरण स्थान, गतिशील प्रणालियाँ, प्रक्षेप पथ और कक्षाएँ इस ब्लॉग पर पहले से ही शब्दावली हैं - देखें एल्गोट्रेडिंग में आकर्षण परिभाषाओं और [जटिल मैनिफोल्ड्स] के लिए (/en/blog/post/complex-manifolds-algorithmic-trading) टेकेंस एम्बेडिंग के माध्यम से चरण-स्थान पुनर्निर्माण के लिए। जो आगे आता है वह उन्हें मानता है।

जो भाग नया है वह सहानुभूतिपूर्ण संरचना है। शास्त्रीय यांत्रिकी के दो समकक्ष सूत्र हैं। न्यूटन देता है $F = ma$. हैमिल्टन एक अदिश फलन देता है $H(q, p)$ जिससे सारी गतिशीलता अनुसरण करती है:

$\frac{dq}{dt} = \frac{\partial H}{\partial p}, \qquad \frac{dp}{dt} = -\frac{\partial H}{\partial q}$

तीन परिणाम मायने रखते हैं, और उनमें से कोई भी सामान्य गतिशील मॉडल के लिए उपलब्ध नहीं है:

1. $H$ प्रक्षेप पथ के साथ संरक्षित है। प्रणाली एक स्थिर-ऊर्जा सतह तक ही सीमित है - चरण स्थान के अंदर एक निम्न-आयामी मैनिफोल्ड। यह एक कठिन बाधा है कि राज्य किधर जा सकता है, कोई प्रवृत्ति नहीं।
2. सहानुभूति 2-रूप $\omega = dq \wedge dp$ संरक्षित है। चरण-अंतरिक्ष आयतन बिल्कुल संरक्षित है (लिउविले का प्रमेय)। प्रक्षेप पथ किसी आकर्षणकर्ता पर एकत्रित नहीं हो सकते; प्रवाह असम्पीडित है.
3. गतिकी समय-प्रतिवर्ती है। प्रवाह को पीछे की ओर चलाएं और आप प्रारंभिक स्थिति को ठीक से पुनर्प्राप्त कर लेते हैं।

बिंदु 2 पर रुकना उचित है, क्योंकि यह इस ब्लॉग पर बाकी सभी चीजों के साथ सबसे तीव्र तनाव है। लिउविले का प्रमेय कहता है कि हैमिल्टनियन प्रणाली में कोई आकर्षणकर्ता नहीं है। आयतन-संरक्षित प्रवाह किसी भी चीज़ पर सिकुड़ नहीं सकता। यदि आप मानते हैं कि बाजारों में आकर्षक संरचना है - और आकर्षित करने वाले लेख का तर्क है कि वे ऐसा करते हैं - तो आप पहले से ही बाजारों के लिए प्रतिबद्ध हैं जो सख्त अर्थों में हैमिल्टनियन नहीं हैं। यह एक वास्तविक संघर्ष है, तकनीकीता नहीं, और यही कारण है कि नीचे दिए गए विघटनकारी विस्तार पर बाद में विचार नहीं किया गया है।

इंटीग्रेटर क्यों मायने रखता है

एक अनुभवहीन इंटीग्रेटर (यूलर, आरके4) के साथ हैमिल्टनियन प्रणाली का अनुकरण करें और गणना किया गया प्रक्षेपवक्र धीरे-धीरे स्थिर-ऊर्जा सतह से दूर चला जाता है। स्थानीय ट्रंकेशन त्रुटि छोटी है; ज्यामितीय त्रुटि व्यवस्थित है। लंबे क्षितिज पर अनुकरण गुणात्मक रूप से गलत हो जाता है: जिन कक्षाओं को बंद होना चाहिए वे सर्पिल होने लगती हैं।

मानक तंत्रिका नेटवर्क में गहरे कारण से समान दोष होता है। डेरिवेटिव के लिए एमएलपी मैपिंग स्थिति में कुछ भी संरक्षित करने के लिए कोई तंत्र नहीं है। यह स्थानीय गतिशीलता को पर्याप्त रूप से सीखता है और उन त्रुटियों को जमा करता है जो जटिल होती हैं।

संरक्षण का दावा, संक्षेप में

इस ब्लॉग ने पहले ही तर्क दिया है कि बाजार संरक्षण-जैसे सिद्धांतों का पालन करते हैं - अल्गोट्रेडिंग के लिए नेवियर-स्टोक्स, भाग 2 मामले को बड़े पैमाने पर तरलता से लेकर हाइड्रोडायनामिक जोखिम प्रबंधन तक विस्तृत बनाता है, और इकोनोफिजिक्स को ठीक से तैयार करता है। माध्य-विचरण अनुकूलन इसी तरह इस ब्लॉग पर पहले से ही एक लैग्रेंजियन प्रणाली है: देखें मार्कोविट्ज़ पोर्टफोलियो सिद्धांत बाधित द्विघात रूप और [अल्मग्रेन-क्रिस इष्टतम निष्पादन] के लिए (/en/blog/post/almgren-chriss-optimal-execution) जोखिम-बजट के लिए/$\lambda$ पहचान, कहाँ $\lambda$ बिल्कुल संयुग्मित संवेग की भूमिका निभाता है।

उनमें से किसी को भी यहां पुनः प्राप्त नहीं किया गया है, क्योंकि दिलचस्प कदम अलग है। वे लेख संरक्षण को एक रूपक के रूप में उपयोग करते हैं जो एक मॉडल को प्रेरित करता है। एक एचएनएन संरक्षण को एक वास्तुशिल्प बाधा में बदल देता है जिसका मॉडल उल्लंघन नहीं कर सकता, भले ही डेटा इसकी मांग करे। वह अंतर - नरम सादृश्य बनाम कठोर संरचना - इस प्रकार की संपूर्ण सामग्री है, और यह दोनों तरीकों से कटौती करता है: डेटा जिस बाधा को संतुष्ट नहीं करता है वह पूर्व नहीं है, यह एक बग है।

एचएनएन वास्तुकला: संरचनात्मक बनाम दंडित संरक्षण

सामान्य भौतिकी-सूचित तंत्र - इसके इनपुट के संबंध में नेटवर्क आउटपुट के ऑटोग्रैड डेरिवेटिव लें, एक भौतिकी अवशिष्ट बनाएं, इसे कम करें - पहले से ही [नेवियर-स्टोक्स पिनएन] में प्रदर्शित किया गया है।/en/blog/post/navier-stokes-problem), किसका physics_loss बनाता u_t, u_x, u_xx के जरिए autograd.grad और अवशिष्ट को वर्गित करता है। एचएनएन एक परिवर्तन के साथ उसी तंत्र का उपयोग करता है, और परिवर्तन ही संपूर्ण बिंदु है।

एक PINN भौतिक कानून के उल्लंघन पर दंड लगाता है। अवशिष्ट एक वजन के साथ एक हानि शब्द है; ऑप्टिमाइज़र इसे डेटा फ़िट के विरुद्ध बदल देता है। वज़न कम करें, या उसे परस्पर विरोधी डेटा सौंप दें, और नेटवर्क ख़ुशी से कानून का उल्लंघन करेगा। संरक्षण एक प्राथमिकता है.

एक एचएनएन संरक्षण को संरचनात्मक बनाता है। यह वेक्टर फ़ील्ड नहीं सीखता है $(\dot{q}, \dot{p}) = f_\theta(q, p)$, जो अप्रतिबंधित है और कुछ भी संरक्षित नहीं करता है। यह एक अदिश राशि सीखता है $H_\theta(q, p)$ और वेक्टर फ़ील्ड के दोनों घटकों को एक ही ग्रेडिएंट से प्राप्त करता है:

$\dot{q} = \frac{\partial H_\theta}{\partial p}, \qquad \dot{p} = -\frac{\partial H_\theta}{\partial q}$

क्योंकि दोनों व्युत्पन्न एक अदिश क्षमता से आते हैं, परिणामी क्षेत्र निर्माण द्वारा सिम्पलेक्टिक-ग्रेडिएंट है। $dH_\theta/dt = \partial_q H \cdot \dot{q} + \partial_p H \cdot \dot{p} = \partial_q H \cdot \partial_p H - \partial_p H \cdot \partial_q H = 0$, समान रूप से, प्रत्येक पैरामीटर सेटिंग के लिए $\theta$ - जिसमें बेतरतीब ढंग से आरंभ किया गया, पूरी तरह से अप्रशिक्षित नेटवर्क शामिल है। नीचे झुकाने के लिए कोई वज़न नहीं है। संरक्षण पैरामीटरीकरण की बीजगणितीय पहचान है, उद्देश्य में कोई शब्द नहीं।

यह PINN ऑफ़र की तुलना में कहीं अधिक मजबूत गारंटी है, और यह बहुत तेज़ विफलता मोड के साथ आता है। हानि देखे गए डेटा के विरुद्ध व्युत्पन्न डेरिवेटिव की तुलना करती है:

$\mathcal{L} = \left\| \frac{\partial H_\theta}{\partial p} - \dot{q}_{\text{data}} \right\|^2 + \left\| \frac{\partial H_\theta}{\partial q} + \dot{p}_{\text{data}} \right\|^2$

अगर देखा जाए $(\dot{q}, \dot{p})$ फ़ील्ड किसी भी चीज़ का सहानुभूतिपूर्ण ग्रेडिएंट नहीं है - यदि इसमें कर्ल है तो पैरामीटराइज़ेशन प्रतिनिधित्व नहीं कर सकता है - नुकसान बस शून्य तक नहीं पहुंच सकता है। अवशिष्ट तल अनुकूलन विफलता नहीं है। यह इस बात का माप है कि डेटा हैमिल्टनियन को स्वीकार करने से कितनी दूर है। वह संख्या इस संपूर्ण वास्तुकला का सबसे उपयोगी आउटपुट है, और यह वह संख्या है जिसके आसपास इस पोस्ट का बाकी हिस्सा व्यवस्थित किया गया है।

नेटवर्क अपने आप में उल्लेखनीय नहीं है: एक एमएलपी से $(q, p) \in \mathbb{R}^{2n}$ एक स्केलर आउटपुट के लिए चौड़ाई 200 की दो tanh परतों के माध्यम से।

निर्देशांक

वित्तीय अनुप्रयोगों के लिए, $q$ एक सामान्यीकृत स्थिति है (लॉग-मूल्य, पोर्टफोलियो भार, कारक एक्सपोज़र) और $p$ एक सामान्यीकृत गति (परिवर्तन की दरें, गति संकेतक, प्रवाह चर)। $H_\theta(q, p)$ फिर नेटवर्क जो भी अपरिवर्तनीय पा सकता है - संभवतः कुल बाजार पूंजीकरण, संभवतः एक जोखिम माप, संभवतः बिना किसी आर्थिक रीडिंग के एक अमूर्त मात्रा, संभवतः कुछ भी नहीं।

जोड़ी का चुनाव निर्दोष नहीं है, और यह मानक प्रस्तुति में अंतर है। के बारे में कुछ भी नहीं"$q$ = लॉग-मूल्य, $p$ = रिटर्न का ईएमए" स्थापित करता है कि ये संयुग्मित हैं। संयुग्मन एक विशिष्ट संरचनात्मक संबंध है - $p$ संवेग को विहित रूप से जोड़ा जाना चाहिए $q$, ऐसा है कि $dq/dt = \partial H/\partial p$ कुछ के लिए रखता है $H$. इस पर जोर देना और इसका परीक्षण करना अलग-अलग गतिविधियाँ हैं, और एचएनएन को वित्त के लिए अनुकूलित करने वाला साहित्य ज्यादातर पहले वाला ही करता है।

सिंपलेक्टिक इंटीग्रेटर्स

सीखना $H_\theta$ आधी समस्या है. प्रक्षेप पथ उत्पन्न करने के लिए हैमिल्टन के समीकरणों को एकीकृत करने की आवश्यकता होती है, और इंटीग्रेटर वास्तुकला की गारंटी को नष्ट कर सकता है।

सिम्प्लेक्टिक इंटीग्रेटर्स संरक्षित करना $\omega = dq \wedge dp$ बिल्कुल। चरण-अंतरिक्ष मात्रा संरक्षित है, $H$ धर्मनिरपेक्ष रूप से बहने के बजाय सीमित त्रुटि के साथ अपने वास्तविक मूल्य के आसपास दोलन करता है, और कक्षाएँ गुणात्मक रूप से सही रहती हैं। आरके4 आपको प्रति-चरण छोटी त्रुटि देता है और इनमें से कोई भी गुण नहीं देता है।

सबसे सरल सहानुभूति योजना स्टॉर्मर-वेरलेट (लीपफ्रॉग) है:

$p_{n+1/2} = p_n - \frac{\Delta t}{2} \frac{\partial H}{\partial q}(q_n, p_{n+1/2})$ $q_{n+1} = q_n + \Delta t \frac{\partial H}{\partial p}(q_{n+1}, p_{n+1/2})$ $p_{n+1} = p_{n+1/2} - \frac{\Delta t}{2} \frac{\partial H}{\partial q}(q_{n+1}, p_{n+1/2})$

वियोज्य के लिए $H(q, p) = T(p) + V(q)$ ये स्पष्ट अद्यतन हैं. वित्तीय हैमिल्टनियन आम तौर पर गैर-वियोज्य होते हैं - गति की गतिशीलता कीमतों पर निर्भर करती है और इसके विपरीत - इसलिए सामान्य मामले में अंतर्निहित कदमों, उच्च-क्रम विधियों (योशिदा, वन-रूथ), या नीचे सिम्पनेट्स मार्ग की आवश्यकता होती है।

टोंग एट अल. (2020) ने दिखाया कि नेटवर्क परतों के रूप में लीपफ्रॉग चरणों की रचना ऐसे आर्किटेक्चर का निर्माण करती है जो निर्माण द्वारा सहानुभूतिपूर्ण होते हैं: प्रत्येक परत एक एकीकरण चरण है, गहराई चरण गणना के बराबर होती है, और सीखा हुआ नक्शा $(q_n, p_n) \mapsto (q_{n+1}, p_{n+1})$ सिम्प्लेक्टिक संरचना को बिल्कुल सुरक्षित रखता है।

स्थिरता की गारंटी: वास्तविक, और बिल्कुल अलग

स्थिरता गुण प्रमेयों से अनुसरण करते हैं, यही कारण है कि वे बाजारों के बारे में कुछ भी साबित नहीं करते हैं।

बैकवर्ड त्रुटि विश्लेषण। एक सिंपलेक्टिक इंटीग्रेटर पर लागू किया गया $H$ बिल्कुल आस-पास हैमिल्टनियन को हल करता है $\tilde{H} = H + O(\Delta t^k)$. गणना किया गया प्रक्षेपवक्र थोड़ा परेशान प्रणाली का सटीक प्रक्षेपवक्र है, और केएएम सिद्धांत तेजी से लंबे समय तक ऊर्जा त्रुटि को सीमित करता है।

ल्यपुनोव स्थिरता। यदि $H_\theta$ संतुलन पर न्यूनतम होता है, $H_\theta$ यह स्वयं एक ल्यपुनोव फ़ंक्शन है जो संतुलन को स्थिर साबित करता है। अलग से विश्लेषण की आवश्यकता नहीं है.

दोनों परिणाम सशर्त हैं $H_\theta$ सही वस्तु होना. वे आपको बताते हैं कि सीखी गई प्रणाली का अनुकरण विश्वसनीय है; वे इस बारे में कुछ नहीं कहते कि क्या सीखी गई प्रणाली बाजार है। एक पूरी तरह से संरक्षित $H_\theta$ 0.9 के अवशिष्ट तल पर फिट किया जाना एक कलाकृति का स्थिर अनुकरण है।

कार्यान्वयन

कोर एचएनएन मॉड्यूल

import torch
import torch.nn as nn

class HamiltonianNN(nn.Module):
    """Learns a scalar H(q, p); derives dynamics via Hamilton's equations."""
    def __init__(self, input_dim: int, hidden_dim: int = 200):
        super().__init__()
        self.net = nn.Sequential(
            nn.Linear(input_dim, hidden_dim), nn.Tanh(),
            nn.Linear(hidden_dim, hidden_dim), nn.Tanh(),
            nn.Linear(hidden_dim, 1),
        )

    def hamiltonian(self, q: torch.Tensor, p: torch.Tensor) -> torch.Tensor:
        return self.net(torch.cat([q, p], dim=-1))

    def time_derivative(self, q: torch.Tensor, p: torch.Tensor):
        q = q.requires_grad_(True)
        p = p.requires_grad_(True)
        H = self.hamiltonian(q, p)
        dH_dq, dH_dp = torch.autograd.grad(H.sum(), [q, p], create_graph=True)
        return dH_dp, -dH_dq          # dq/dt, dp/dt

सिंपलेक्टिक लीपफ्रॉग इंटीग्रेटर

class LeapfrogIntegrator:
    """Stormer-Verlet integrator. Preserves the symplectic structure."""
    def __init__(self, hnn: HamiltonianNN, dt: float = 0.01):
        self.hnn, self.dt = hnn, dt

    def step(self, q: torch.Tensor, p: torch.Tensor):
        _, dp_dt = self.hnn.time_derivative(q, p)
        p_half = p + 0.5 * self.dt * dp_dt

        dq_dt, _ = self.hnn.time_derivative(q, p_half)
        q_new = q + self.dt * dq_dt

        _, dp_dt = self.hnn.time_derivative(q_new, p_half)
        return q_new, p_half + 0.5 * self.dt * dp_dt

    def integrate(self, q0, p0, n_steps: int):
        traj_q, traj_p, q, p = [q0], [p0], q0, p0
        for _ in range(n_steps):
            q, p = self.step(q, p)
            traj_q.append(q); traj_p.append(p)
        return torch.stack(traj_q), torch.stack(traj_p)

चरण-अंतरिक्ष निर्देशांक

लॉग-प्राइस, भिन्न रिटर्न, ईएमए गति और रोलिंग अस्थिरता इस ब्लॉग पर मानक निर्माण हैं - प्रसार-मॉडल पाइपलाइन और जटिल मैनिफोल्ड्स दोनों इसे शिप करते हैं। यहां केवल दो पंक्तियां ही मायने रखती हैं जो संयुग्मी जोड़ी को परिभाषित करती हैं:

q = np.log(prices)[w:-1]                          # generalised position
p = ewma(np.diff(np.log(prices), axis=0), w)[w-1:-1]   # generalised momentum

सब कुछ नीचे की ओर - परिमित-अंतर $\dot{q}$, $\dot{p}$, लंबाई संरेखण, एडम के साथ देखे गए डेरिवेटिव के विरुद्ध व्युत्पन्न डेरिवेटिव से मेल खाने वाला प्रशिक्षण लूप - यांत्रिक है।

संरक्षण जांच

def measure_conservation(hnn, integrator, q0, p0, n_steps=1000):
    """Energy drift along an integrated trajectory."""
    with torch.no_grad():
        traj_q, traj_p = integrator.integrate(q0, p0, n_steps)
        energies = torch.stack([
            hnn.hamiltonian(traj_q[i], traj_p[i]) for i in range(n_steps + 1)
        ]).squeeze().numpy()

    return {
        "H_initial": energies[0],
        "H_final": energies[-1],
        "drift": energies[-1] - energies[0],
        "oscillation": energies.std(),
        "relative_error": abs(energies[-1] - energies[0]) / abs(energies[0]),
    }

ध्यान दें कि यह फ़ंक्शन क्या परीक्षण नहीं करता है। यह मापता है कि इंटीग्रेटर संरक्षित करता है या नहीं $H_\theta$ - जो यह होगा, प्रमेय के अनुसार, चाहे या नहीं $H_\theta$ मतलब कुछ भी. किसी विद्वान हैमिल्टनियन का नमूना संरक्षण साक्ष्य नहीं है। जो परीक्षण मायने रखता है वह अलग है।

मिथ्याकरण परीक्षण

ईमानदार प्रयोग के तीन भाग हैं, और इसे इस प्रकार डिज़ाइन किया गया है कि नकारात्मक परिणाम शर्मनाक होने के बजाय जानकारीपूर्ण हो।

1. अवशिष्ट फर्श. फ़िट $H_\theta$ वास्तविक डेटा पर और एकत्रित हानि की रिपोर्ट करें, संरक्षण की नहीं। एक सिंपलेक्टिक-ग्रेडिएंट पैरामीटराइजेशन कर्ल के साथ एक वेक्टर फ़ील्ड का प्रतिनिधित्व नहीं कर सकता है; फर्श प्रेक्षित गतिशीलता के गैर-हैमिल्टनियन घटक को मापता है। संदर्भ के समान डेटा पर एक अप्रतिबंधित एमएलपी फिट करें - इसमें कोई संरचनात्मक प्रतिबंध नहीं है, इसलिए दो मंजिलों के बीच का अंतर हैमिल्टनियन धारणा की लागत है, जो समस्या की हानि इकाइयों में बताई गई है।

2. आउट-ऑफ़-सैंपल संरक्षण। एक विंडो पर फ़िट करें, फिर मूल्यांकन करें $H_\theta$ अवलोकित आउट-ऑफ़-सैंपल प्रक्षेपवक्र के साथ - वास्तविक मूल्य पथ, एकीकृत नहीं। अगर $(q, p)$ वास्तव में विहित है, $H_\theta$ उस डेटा के साथ लगभग स्थिर रहता है जिसे उसने कभी नहीं देखा। अगर $H_\theta$ नमूना से बाहर भटकता है, संरक्षित मात्रा एक नमूना कलाकृति थी और वास्तुकला की गारंटी कोई काम नहीं कर रही है।

**3. समन्वय पृथक्करण। ** यह वह हिस्सा है जिसकी सिद्धांत अनुभाग मांग करता है और वित्तीय एचएनएन की कोई प्रस्तुति चलती नहीं दिखती है। कुछ भी यह स्थापित नहीं करता है कि लॉग-प्राइस और ईएमए-ऑफ-रिटर्न संयुग्मित हैं; यह दावा किया गया है. इसलिए एक-दूसरे के विरुद्ध जोड़ियों का परीक्षण करें - (लॉग-प्राइस, ईएमए रिटर्न), (लॉग-प्राइस, रॉ रिटर्न), (पोर्टफोलियो वेट, वेट चेंज रेट) - और उन्हें आउट-ऑफ-सैंपल के आधार पर रैंक करें $H$ स्थिरता. नियंत्रण के रूप में फेरबदल-रिटर्न सरोगेट के खिलाफ: अस्थायी संरचना को नष्ट करें, सीमांत वितरण रखें, फिर से फिट करें। यदि सरोगेट की पैदावार तुलनीय है $H$ स्थिरता, "संरक्षित मात्रा" बाजार की बजाय मानकीकरण की एक संपत्ति है।

मेरे पूर्व, तथ्य से पहले कहा गया था ताकि इसे परिणाम के विरुद्ध जांचा जा सके: यह विफल रहता है। तर्क उपरोक्त प्राइमर में है - लिउविले का प्रमेय आकर्षित करने वालों को मना करता है, बाजारों में आकर्षक संरचना दिखाई देती है, और नीचे दिए गए दोनों भागने की संभावनाएं ऐसी स्वीकारोक्ति हैं जो सख्त हैमिल्टनियन धारणा पर आधारित नहीं हैं। यदि अवशिष्ट फर्श ऊंचा और नमूने से बाहर है $H$ प्रत्येक युग्मन में अस्थिर है, जो कि भौतिकी-सूचित पूर्व पर एक साफ मापा गया नकारात्मक है, और इस ब्लॉग ने उन्हें पहले प्रकाशित किया है (ईमानदार नकारात्मक, डिफ्लेटेड शार्प). एक सुंदर सिद्धांत पर मापा गया नकारात्मक एक परीक्षण न किए गए ट्यूटोरियल से अधिक मूल्यवान है।

यदि संरक्षण विफल रहता है: विघटनकारी विस्तार

वास्तविक बाज़ार लीक हो गए। लेन-देन की लागत, फिसलन और सूचना क्षय सिस्टम से ऊर्जा को हटा देते हैं, और सख्ती से संरक्षित करते हैं $H$ उसका प्रतिनिधित्व नहीं कर सकते. दो सैद्धांतिक छूट मौजूद हैं, और दोनों को रियायतों के रूप में पढ़ा जाना चाहिए कि धारणा बहुत मजबूत थी, परिशोधन के रूप में नहीं:

1. कन्फर्मल हैमिल्टनियन: मॉडल $\dot{H} = -\gamma H$ सीखी गई अपव्यय दर के साथ $\gamma$. फिट किए गए का परिमाण $\gamma$ यह अपने आप में एक माप है - सिस्टम रूढ़िवादी से कितनी दूर बैठता है।
2. पोर्ट-हैमिल्टनियन: $\dot{x} = (J - R)\nabla H + Bu$, साथ $J$ सिंपलेक्टिक मैट्रिक्स, $R \succeq 0$ अपव्यय मैट्रिक्स, और $Bu$ बाहरी दबाव (समाचार, प्रवाह)। यहाँ $\|R\|$ के सापेक्ष $\|J\|$ सीधे प्रस्थान की मात्रा निर्धारित करता है।

दोनों वास्तुकला को प्रेरित करने वाली बाध्य-त्रुटि गारंटी की कीमत पर, आकर्षित करने वालों का प्रतिनिधित्व करने की क्षमता बहाल करते हैं। यह व्यापार है, स्पष्ट रूप से कहा गया है: आपके पास लिउविले हो सकता है या आपके पास अपव्यय हो सकता है, और ऐसा प्रतीत होता है कि बाजार को दूसरा चाहिए।

संबंधित खुली समस्याएं: वित्तीय हैमिल्टनियन गैर-वियोज्य हैं (अंतर्निहित या उच्च-क्रम वाले सहानुभूतिपूर्ण कदमों की आवश्यकता होती है, या सिम्पनेट्स सिम्प्लेक्टिक मानचित्रों को सीधे सीखना), और बाज़ार एक से अधिक समय के पैमाने पर काम करते हैं $H$ पकड़ने की संभावना नहीं है - तेज और धीमी गति की गतिशीलता के लिए पदानुक्रमित हैमिल्टनियन, या तेज-पैमाने के मापदंडों के रूप में धीमी चर के रुद्धोष्म उपचार $H$.

निष्कर्ष

मशीनरी काम करती है. एक अदिश राशि सीखें $H_\theta$, वेक्टर फ़ील्ड को उसके ग्रेडिएंट से प्राप्त करें, सहानुभूतिपूर्वक एकीकृत करें, और आपको बीजगणितीय पहचान के रूप में संरक्षण, हजारों चरणों में सीमित त्रुटि, सटीक समय-प्रतिवर्तीता और एक ल्यपुनोव फ़ंक्शन मुफ्त में मिलता है। उनमें से प्रत्येक दावा एक प्रमेय है और उनमें से किसी को भी सत्यापन की आवश्यकता नहीं है।

जिस चीज़ के सत्यापन की आवश्यकता है वह आधार है। एचएनएन यह परीक्षण नहीं करते हैं कि एक संरक्षित मात्रा मौजूद है या नहीं - वे इसे मानते हैं और धारणा के तहत अनुकूलन करते हैं, भले ही एक सहज, स्थिर, अच्छे व्यवहार वाले मॉडल में परिवर्तित हो जाते हैं। अवशिष्ट फर्श और नमूना से बाहर $H$ स्थिरता केवल दो संख्याएं हैं जो "बाजार कुछ संरक्षित करता है" को "पैरामीटरीकरण हमेशा कुछ उत्पन्न करता है" से अलग करता है।

तो यह पोस्ट जिस प्रश्न पर समाप्त होती है वह यह नहीं है कि क्या एचएनएन स्थिर हैं। यह है कि क्या लालित्य बीटीसीयूएसडीटी के संपर्क में रहता है - और जब तक वे नंबर पृष्ठ पर नहीं होते हैं, तब तक वित्तीय मशीन लर्निंग में हर संरक्षण दावे के प्रति सही रुख, जिसमें यह भी शामिल है, यह है कि इसका परीक्षण नहीं किया गया है।

सन्दर्भ

1. ग्रेडैनस, एस., डेज़ाम्बा, एम., और स्प्रैग, जे. (2019)। हैमिल्टनियन न्यूरल नेटवर्क्स. न्यूरआईपीएस 2019।
2. टोंग, वाई., जिओंग, एस., हे, एक्स., पैन, जी., और झू, बी. (2020)। सिम्प्लेक्टिक इंटीग्रेटर्स पर आधारित डीप हैमिल्टनियन नेटवर्क. arXiv प्रीप्रिंट।
3. बाक़ी, बी.ई. (2000)। वित्तीय बाजारों में हैमिल्टनियन. arXiv प्रीप्रिंट।
4. कोटलर, जे. और रेज़चिकोव, एस. (2023)। विकल्प मूल्य गतिशीलता को हल करने के लिए कुशल हैमिल्टनियन सिमुलेशन. शारीरिक समीक्षा अनुसंधान.
5. गोनोन, पी. और ओर्टेगा, जे.-पी. (2009)। स्टॉक मार्केट और क्वांटम डायनेमिक्स. arXiv प्रीप्रिंट।
6. ग्रेडैनस, एस. (2019)। हैमिल्टनियन न्यूरल नेटवर्क्स - ब्लॉग पोस्ट.
7. सैंटोस, सी. एट अल. (2022)। सिम्पलेक्टिक मोमेंटम न्यूरल नेटवर्क्स. पीएमएलआर.