Hamiltonian Neural Networks: Does a Financial System Conserve Anything?

Гамильтондық нейрондық желілер туралы екі сұрақ қоюға болады және олардың біреуі ғана қызықты.

Қызық сұрақ: «ХНН тұрақты ма?» Жауап иә және бұл эксперимент емес, теорема. Гамильтон теңдеулерін архитектураға кодтаңыз, симплекстік схемамен біріктіріңіз және кері қателерді талдау экспоненциалды ұзақ горизонттарда шектелген энергия қатесін береді. Қаржыға қатысты ештеңе жоқ. Оған сену үшін кері тест қажет емес.

Қызықты сұрақ – тұрақтылық нәтижесі тыныш түрде болжайтын сұрақ: қаржылық жағдайдың векторы сақталған шаманы мүлде қабылдай ма? HNN анықтамайды. $H$ бар. Ол болжайды $H$ бар және сол болжам бойынша ең жақсысын табады. Егер нарықтар консервацияланбаған болса $H$ таңдаған координаттарыңыз үшін желі әлі де жинақталады, әлі де біркелкі скаляр шығарады, әлі де жарылмай біріктіріледі — және бәрі ештеңенің өте тұрақты үлгісі болады.

Бұл пост техниканы құрастырады, содан кейін оны бұзуға тырысады. Сынақтағы шағым тар және жалған: бұл таңдалған $(q, p)$ жұп — айталық, лог-баға және қайтарулардың EMA — канондық конъюгат дегенді білдіреді $dq/dt = \partial H/\partial p$ шын мәнінде кейбіреулер үшін жарамды $H$. Бұл эмпирикалық мәлімдеме және жобаның өз теориясы бөлімі оған сенуге негіз бермейді.

Гамильтондық механика: мұнда шын мәнінде жаңа не бар

Фазалық кеңістік, динамикалық жүйелер, траекториялар мен орбиталар бұл блогта қазірдің өзінде лексика болып табылады — algotrading-тегі тартушылар анықтамалар мен күрделі сандық Takens ендіру арқылы фазалық кеңістікті қайта құру үшін. Келесі нәрсе оларды болжайды.

Жаңа бөлігі - симплекстік құрылым. Классикалық механиканың екі баламалы тұжырымы бар. Ньютон береді $F = ma$. Гамильтон скалярлық функцияны береді $H(q, p)$ одан барлық динамика шығады:

$\frac{dq}{dt} = \frac{\partial H}{\partial p}, \qquad \frac{dp}{dt} = -\frac{\partial H}{\partial q}$

Үш нәтиже маңызды және олардың ешқайсысы жалпы динамикалық модель үшін қол жетімді емес:

1. $H$ траекториялар бойымен сақталады. Жүйе тұрақты энергиялы бетпен шектелген — фазалық кеңістік ішіндегі төменгі өлшемді коллектор. Бұл тенденция емес, мемлекеттің қайда бара алатынына қатаң шектеу.
2. Симплектикалық 2-форма $\omega = dq \wedge dp$ сақталады. Фаза-кеңістік көлемі дәл сақталады (Лиувилл теоремасы). Траекториялар аттракторға жақындай алмайды; ағын сығылмайды.
3. Динамикасы уақыт бойынша қайтымды. Ағынды кері іске қосыңыз және бастапқы күйді дәл қалпына келтіресіз.

2-тармақты тоқтатқан жөн, өйткені бұл блогтағы барлық басқа нәрселермен ең өткір шиеленіс. Лиувилл теоремасы Гамильтон жүйесінде аттракторлар жоқ дейді. Көлемді сақтайтын ағындар ештеңемен қысқара алмайды. Егер сіз нарықтардың тартымды құрылымы бар деп ойласаңыз - және аттракторлар мақаласында олар солай етеді - онда сіз қатаң мағынада гамильтондық емес нарықтарға дайынсыз. Бұл техникалық емес, нақты қақтығыс және бұл төменде келтірілген диссипативті кеңейтімдердің кейіннен ойластырылмағанының себебі.

Интегратор неге маңызды

Гамильтондық жүйені аңғал интегратормен (Эйлер, RK4) имитациялаңыз және есептелген траектория тұрақты энергия бетінен баяу ауытқиды. Жергілікті қысқарту қатесі аз; геометриялық қате жүйелі. Ұзын горизонттарда модельдеу сапалы түрде дұрыс емес болады: жабылуы керек орбиталар спиральді бастайды.

Стандартты нейрондық желілерде тереңірек себеппен бірдей ақау бар. Туынды құралдарға MLP салыстыру күйінде ештеңені сақтау механизмі жоқ. Ол жергілікті динамикаға барабар үйренеді және қателерді жинақтайды.

Қорғау туралы талап, қысқаша

Бұл блог қазірдің өзінде нарықтардың табиғатты сақтау қағидаттарына бағынатынын дәлелдеген болатын — Algotrading үшін Навьер-Стокс, 2-бөлім өтімділіктің массалық деңгейінен гидродинамикалық тәуекелді басқаруға дейінгі істі ұзақ жасайды және экономофизиканың дұрыс құрылымын береді. Орташа дисперсияны оңтайландыру да осы блогтағы лагранж жүйесі болып табылады: Марковиц портфолио теориясы шектелген квадраттық пішін үшін және Альмгрен-Крис оңтайлы орындау тәуекел-бюджет үшін/$\lambda$ сәйкестендіру, қайда $\lambda$ тура конъюгаттық импульс рөлін атқарады.

Мұның ешқайсысы мұнда қайта шығарылмайды, өйткені қызықты қозғалыс басқаша. Бұл мақалалар үлгіні ынталандыратын метафора ретінде консервацияны пайдаланады. HNN консервацияны архитектуралық шектеуге айналдырады, тіпті деректер оны талап етсе де, модель бұза алмайды. Бұл айырмашылық - жұмсақ ұқсастық пен қатты құрылым - келесі мазмұнның толық мазмұны және ол екі жолды да қысқартады: деректер қанағаттандырмайтын шектеу алдыңғы емес, бұл қате.

HNN архитектурасы: құрылымдық және жазаланған сақтау

Жалпы физикадан хабардар механизм — оның кірістеріне қатысты желі шығысының автоградтық туындыларын алу, физика қалдығын қалыптастыру, оны азайту — Навье-Стокс PINN, кімдікі physics_loss салады u_t, u_x, u_xx арқылы autograd.grad және қалдықты квадраттайды. HNN сол механизмді бір өзгеріспен пайдаланады және өзгеріс - бұл барлық мәселе.

PINN физикалық заңды бұзуды жазалайды. Қалдық - салмағы бар жоғалту термині; оңтайландырушы оны деректердің сәйкестігімен ауыстырады. Салмақты азайтыңыз немесе қарама-қайшы деректерді жіберіңіз, сонда желі қуана заңды бұзады. Сақтау - артықшылық.

HNN консервацияны құрылымдық етеді. Ол векторлық өрісті үйренбейді $(\dot{q}, \dot{p}) = f_\theta(q, p)$, ол шектеусіз және ештеңені сақтамайды. Ол скалярды үйренеді $H_\theta(q, p)$ және бір градиенттен векторлық өрістің екі компонентін де шығарады:

$\dot{q} = \frac{\partial H_\theta}{\partial p}, \qquad \dot{p} = -\frac{\partial H_\theta}{\partial q}$

Екі туынды да бір скаляр потенциалдан шыққандықтан, алынған өріс құрылысы бойынша симплекси-градиент болады. $dH_\theta/dt = \partial_q H \cdot \dot{q} + \partial_p H \cdot \dot{p} = \partial_q H \cdot \partial_p H - \partial_p H \cdot \partial_q H = 0$, бірдей әрбір параметр параметрі үшін $\theta$ — кездейсоқ инициализацияланған, толығымен оқытылмаған желіні қоса. Түзететін салмақ жоқ. Сақтау - мақсаттағы термин емес, параметрлеудің алгебралық сәйкестігі.

Бұл PINN ұсынғаннан әлдеқайда күшті кепілдік және ол әлдеқайда өткір сәтсіздік режимімен келеді. Шығын туынды туындыларды бақыланатын деректермен салыстырады:

$\mathcal{L} = \left\| \frac{\partial H_\theta}{\partial p} - \dot{q}_{\text{data}} \right\|^2 + \left\| \frac{\partial H_\theta}{\partial q} + \dot{p}_{\text{data}} \right\|^2$

Егер байқалса $(\dot{q}, \dot{p})$ өріс ештеңенің симплекстік градиенті емес — егер оның бұйралауы болса, параметрді көрсету мүмкін емес — жоғалту жай ғана нөлге жете алмайды. Қалдық қабат оңтайландыру сәтсіздігі емес. Бұл деректердің Гамильтонды қабылдаудан қаншалықты алыс екенін көрсететін өлшем. Бұл сан бүкіл архитектураның ең пайдалы нәтижесі болып табылады және бұл посттың қалған бөлігі айналасында ұйымдастырылған сан.

Желінің өзі ерекше: MLP $(q, p) \in \mathbb{R}^{2n}$ ені 200 екі танх қабаты арқылы скалярлық шығысқа дейін.

Координаттар

Қаржылық қосымшалар үшін, $q$ жалпыланған позиция болып табылады (лог-бағалар, портфельдік салмақтар, факторлық әсерлер) және $p$ жалпыланған импульс (өзгеріс қарқыны, импульс көрсеткіштері, ағын айнымалылары). $H_\theta(q, p)$ сонда желі таба алатын инварианттың кез келгені — мүмкін жалпы нарықтық капиталдандыру, мүмкін тәуекел өлшемі, мүмкін экономикалық көрсеткіші жоқ дерексіз сан, мүмкін ештеңе.

Жұптастыруды таңдау бейтарап емес, бұл стандартты түсіндірудегі негізгі олқылық. "$q$ = лог-баға, $p$ = кірістердің EMA-сы" дегеннің өзі олардың түйіндес екенін білдірмейді. Түйіндестік — нақты құрылымдық байланыс: $p$ $q$-мен канондық түрде жұптасқан импульс болуы керек, сонда $dq/dt = \partial H/\partial p$ кейбір $H$ үшін орындалады. Мұны мәлімдеу мен тексеру — екі бөлек әрекет, ал HNN-ді қаржыға бейімдейтін әдебиет негізінен біріншісімен айналысады.

Симплектикалық интеграторлар

Үйрену $H_\theta$ мәселенің жартысы. Траекторияларды құру Гамильтон теңдеулерін біріктіруді талап етеді, ал интегратор архитектура кепілдік беретін нәрсені жоя алады.

Симплектикалық интеграторлар сақтау $\omega = dq \wedge dp$ дәл. Фазалық кеңістіктің көлемі сақталады, $H$ зайырлы емес, шектелген қателікпен өзінің шынайы мәні айналасында тербеледі және орбиталар сапалы түрде дұрыс болып қалады. RK4 сізге қадам сайын азырақ қатені береді және осы сипаттардың ешқайсысын бермейді.

Ең қарапайым симплекстік схема Штормер-Верлет (секірік):

$p_{n+1/2} = p_n - \frac{\Delta t}{2} \frac{\partial H}{\partial q}(q_n, p_{n+1/2})$ $q_{n+1} = q_n + \Delta t \frac{\partial H}{\partial p}(q_{n+1}, p_{n+1/2})$ $p_{n+1} = p_{n+1/2} - \frac{\Delta t}{2} \frac{\partial H}{\partial q}(q_{n+1}, p_{n+1/2})$

Бөлінетін үшін $H(q, p) = T(p) + V(q)$ бұл нақты жаңартулар. Қаржылық Гамильтондықтар әдетте бөлінбейді - импульс динамикасы бағаға байланысты және керісінше - сондықтан жалпы жағдай жасырын қадамдарды, жоғарырақ әдістерді (Йошида, Форест-Рут) немесе төмендегі SympNets бағытын қажет етеді.

Тонг және т.б. (2020) секіріс қадамдарын желілік қабаттар ретінде құрастыру құрылысы бойынша симплекстік архитектураларды шығаратынын көрсетті: әрбір қабат интеграциялық қадам, тереңдік қадамдар санына тең және үйренген карта $(q_n, p_n) \mapsto (q_{n+1}, p_{n+1})$ симплекстік құрылымды дәл сақтайды.

Тұрақтылық кепілдіктері: нақты және нүктенің жанында

Тұрақтылық қасиеттері теоремалардан туындайды, сондықтан олар нарықтар туралы ештеңе дәлелдемейді.

Артқа қателік талдау. Қолданылатын симплекстік интегратор $H$ жақындағы Гамильтонианды дәл шешеді $\tilde{H} = H + O(\Delta t^k)$. Есептелген траектория - бұл аздап бұзылған жүйенің дәл траекториясы, ал KAM теориясы энергия қатесін экспоненциалды түрде ұзақ уақыт бойы шектейді.

Ляпунов тұрақтылығы. Егер $H_\theta$ тепе-теңдікте минимумға ие, $H_\theta$ өзі тепе-теңдіктің тұрақты екенін дәлелдейтін Ляпунов функциясы болып табылады. Бөлек талдау қажет емес.

Екі нәтиже де шартты $H_\theta$ дұрыс объект болу. Олар сізге үйренген жүйенің имитациясының сенімді екенін айтады; олар үйренген жүйенің нарық екендігі туралы ештеңе айтпайды. Мінсіз сақталған $H_\theta$ 0,9 қалдық еденге орнатылған артефакттың тұрақты моделі.

Іске асыру

Негізгі HNN модулі

import torch
import torch.nn as nn

class HamiltonianNN(nn.Module):
    """Learns a scalar H(q, p); derives dynamics via Hamilton's equations."""
    def __init__(self, input_dim: int, hidden_dim: int = 200):
        super().__init__()
        self.net = nn.Sequential(
            nn.Linear(input_dim, hidden_dim), nn.Tanh(),
            nn.Linear(hidden_dim, hidden_dim), nn.Tanh(),
            nn.Linear(hidden_dim, 1),
        )

    def hamiltonian(self, q: torch.Tensor, p: torch.Tensor) -> torch.Tensor:
        return self.net(torch.cat([q, p], dim=-1))

    def time_derivative(self, q: torch.Tensor, p: torch.Tensor):
        q = q.requires_grad_(True)
        p = p.requires_grad_(True)
        H = self.hamiltonian(q, p)
        dH_dq, dH_dp = torch.autograd.grad(H.sum(), [q, p], create_graph=True)
        return dH_dp, -dH_dq          # dq/dt, dp/dt

Symplectic Leapfrog интеграторы

class LeapfrogIntegrator:
    """Stormer-Verlet integrator. Preserves the symplectic structure."""
    def __init__(self, hnn: HamiltonianNN, dt: float = 0.01):
        self.hnn, self.dt = hnn, dt

    def step(self, q: torch.Tensor, p: torch.Tensor):
        _, dp_dt = self.hnn.time_derivative(q, p)
        p_half = p + 0.5 * self.dt * dp_dt

        dq_dt, _ = self.hnn.time_derivative(q, p_half)
        q_new = q + self.dt * dq_dt

        _, dp_dt = self.hnn.time_derivative(q_new, p_half)
        return q_new, p_half + 0.5 * self.dt * dp_dt

    def integrate(self, q0, p0, n_steps: int):
        traj_q, traj_p, q, p = [q0], [p0], q0, p0
        for _ in range(n_steps):
            q, p = self.step(q, p)
            traj_q.append(q); traj_p.append(p)
        return torch.stack(traj_q), torch.stack(traj_p)

Фаза-кеңістік координаттары

Логалық бағалар, әртүрлі қайтарулар, EMA импульсі және жылжу құбылмалылығы осы блогтағы стандартты құрылым — диффузия үлгісіндегі құбыр және күрделі коллекторлар екеуі де жібереді. Мұнда маңызды тек екі жол - конъюгаттық жұпты анықтайтындар:

q = np.log(prices)[w:-1]                          # generalised position
p = ewma(np.diff(np.log(prices), axis=0), w)[w-1:-1]   # generalised momentum

Төменгі ағынның бәрі — шекті айырмашылық $\dot{q}$, $\dot{p}$, ұзындықты теңестіру, Адаммен бақыланатын туынды туындыларға сәйкес келетін жаттығу циклі — механикалық.

Сақтауды тексеру

def measure_conservation(hnn, integrator, q0, p0, n_steps=1000):
    """Energy drift along an integrated trajectory."""
    with torch.no_grad():
        traj_q, traj_p = integrator.integrate(q0, p0, n_steps)
        energies = torch.stack([
            hnn.hamiltonian(traj_q[i], traj_p[i]) for i in range(n_steps + 1)
        ]).squeeze().numpy()

    return {
        "H_initial": energies[0],
        "H_final": energies[-1],
        "drift": energies[-1] - energies[0],
        "oscillation": energies.std(),
        "relative_error": abs(energies[-1] - energies[0]) / abs(energies[0]),
    }

Бұл функция нені тексермейтінін ескеріңіз. Ол интегратор сақтайды ма, соны өлшейді $H_\theta$ — бұл теорема бойынша, ол болады ма, жоқ па $H_\theta$ кез келген нәрсені білдіреді. Үйренген Гамильтонианның үлгідегі сақталуы дәлел емес. Маңызды сынақ басқа.

Жалғандық сынағы

Адал эксперимент үш бөліктен тұрады және ол жағымсыз нәтиже ұят емес, ақпаратты болатындай етіп жасалған.

1. Қалдық еден. Сәйкес $H_\theta$ нақты деректер бойынша және сақтау емес, жинақталған жоғалту туралы хабарлаңыз. Симплекстік-градиент параметрі бұралған векторлық өрісті көрсете алмайды; қабат бақыланатын динамиканың Гамильтондық емес құрамдас бөлігін өлшейді. Анықтама ретінде бірдей деректерге шектеусіз MLP орнатыңыз — оның құрылымдық шектеуі жоқ, сондықтан екі қабат арасындағы алшақтық * мәселенің шығын бірліктерінде көрсетілген Гамильтондық жорамалдың құны болып табылады.

2. Үлгіден тыс сақтау. Бір терезеге орнатыңыз, содан кейін бағалаңыз $H_\theta$ бойымен байқалған үлгіден тыс траектория — біріктірілген емес, нақты баға жолы. Егер $(q, p)$ шын мәнінде канондық, $H_\theta$ ешқашан көрмеген деректер бойынша шамамен тұрақты болып қалады. Егер $H_\theta$ үлгіден шығып кетті, сақталған сан үлгідегі артефакт болды және сәулет кепілдігі жұмыс істемейді.

3. Координаталық абляция. Бұл теория бөлімі талап ететін бөлік және қаржылық HNN көрсетілмейтін сияқты. Ештеңе бағаның журналы мен қайтарымының EMA конъюгаттық екенін анықтамайды; бұл бекітіледі. Сондықтан жұптастыруларды бір-біріне қарсы сынап көріңіз — (лог-баға, EMA қайтарымы), (лог-баға, өңделмеген қайтарым), (портфолио салмағы, салмақтың өзгеру жылдамдығы) — және оларды үлгіден тыс дәрежеге қойыңыз. $H$ тұрақтылық. Бақылау ретінде аралас-қайтаратын суррогатқа қарсы: уақытша құрылымды бұзыңыз, шекті үлестірімді сақтаңыз, қайта орнатыңыз. Егер суррогат салыстырмалы өнімді болса $H$ тұрақтылық, «сақталған мөлшер» нарықтың емес, параметрлеудің қасиеті болып табылады.

Менің алдын ала, нәтижеге қарсы тексеруге болатындай фактіге дейін айтылған: бұл сәтсіз. Дәлелдеу жоғарыда келтірілген праймерде - Лиувилл теоремасы аттракторларға тыйым салады, нарықтар тартымды құрылымға ие болып көрінеді және төменде келтірілген қашу люктерінің екеуі де қатаң Гамильтондық жорамалға сәйкес келмейтін мойындаулар болып табылады. Қалдық қабат жоғары және үлгіден тыс болса $H$ кез келген жұпта тұрақсыз, яғни физикадан хабардар болғанға дейін таза өлшенген теріс және бұл блог бұрынғыларды жариялаған (адал теріс, Шарп өшірілді). Талғампаз теория бойынша өлшенген теріс баға тексерілмеген оқулықтан артық.

Сақтау сәтсіз болса: диссипативті кеңейтімдер

Нақты нарықтар ағып жатыр. Транзакция шығындары, сырғыту және ақпараттың ыдырауы жүйеден энергияны алып тастайды және қатаң түрде сақталады. $H$ білдіре алмайды. Екі принципті релаксация бар және екеуін де нақтылау ретінде емес, жорамал тым күшті болды деген концессиялар ретінде оқу керек:

1. Конформды Гамильтониан: модель $\dot{H} = -\gamma H$ үйренген диссипация жылдамдығымен $\gamma$. Орнатылған мөлшері $\gamma$ өзі өлшем болып табылады — жүйе консервативтіден қаншалықты алыс орналасқан.
2. Порт-Гамильтониан: $\dot{x} = (J - R)\nabla H + Bu$, бірге $J$ симплекстік матрица, $R \succeq 0$ диссипация матрицасы және $Bu$ сыртқы мәжбүрлеу (жаңалықтар, ағындар). Мұнда $\|R\|$ қатысты $\|J\|$ кетуді тікелей анықтайды.

Екеуі де архитектураны ынталандырған шектелген қателік кепілдігінің құны бойынша аттракторларды көрсету мүмкіндігін қалпына келтіреді. Бұл ашық түрде айтылған сауда: сізде Лиувилл болуы мүмкін немесе сізде диссипация болуы мүмкін, ал нарықтар екіншісін қалайтын сияқты.

Қатысты ашық мәселелер: қаржылық Гамильтондықтар бөлінбейді (жасырын немесе жоғары ретті симплекстік қадамдарды талап етеді немесе SympNets тікелей симплектикалық карталарды үйрену) және нарықтар бір уақыттағы бірнеше уақыт шкалаларында жұмыс істейді $H$ жылдам және баяу динамика үшін иерархиялық Гамильтондықтарды немесе жылдам масштабтың параметрлері ретінде баяу айнымалыларды адиабаталық өңдеуді алу екіталай. $H$.

Қорытынды

Техника жұмыс істейді. Скалярды үйреніңіз $H_\theta$, векторлық өрісті оның градиентінен шығарыңыз, симплектикалық интегралдаңыз, сонда сіз алгебралық сәйкестік, мыңдаған қадамдардағы шектелген қателік, дәл уақыттың қайтымдылығы және Ляпунов функциясы ретінде сақталуды аласыз. Бұл мәлімдемелердің әрқайсысы теорема және олардың ешқайсысы растауды қажет етпейді.

Валидацияны талап ететін нәрсе - алғышарт. HNN сақталған шаманың бар-жоғын тексермейді — олар оны қабылдайды және болжам бойынша оңтайландырады, қарамастан біркелкі, тұрақты, жақсы тәртіпті үлгіге жақындайды. Қалдық қабат және үлгіден тыс $H$ тұрақтылық «нарық бірдеңені сақтайды» мен «параметрлеу әрқашан бірдеңе шығарады» дегенді ажырататын жалғыз екі сан.

Сондықтан бұл жазбаның аяқталатын сұрағы HNNs тұрақты ма емес. Бұл талғампаздық BTCUSDT-пен байланыста бола ма, жоқ па - және бұл сандар бетте болғанша, қаржылық машинаны оқытудағы әрбір сақтау талаптарының дұрыс ұстанымы, соның ішінде оны сынамағаны.

Анықтамалар

1. Greydanus, S., Dzamba, M., & Sprague, J. (2019). Гамильтондық нейрондық желілер. NeurIPS 2019.
2. Тонг, Ы., Сионг, С., Хэ, Х., Пан, Г., Жу, Б. (2020). Симплектикалық интеграторларға негізделген терең Гамильтондық желілер. arXiv алдын ала басып шығару.
3. Baaquie, B. E. (2000). Қаржы нарықтарындағы Гамильтониан. arXiv алдын ала басып шығару.
4. Котлер, Дж. және Резчиков, С. (2023). Опцион бағасының динамикасын шешуге арналған тиімді Гамильтондық модельдеу. Физикалық шолуды зерттеу.
5. Гонон, П. және Ортега, Дж.-П. (2009). Қор нарықтары және кванттық динамика. arXiv алдын ала басып шығару.
6. Грейданус, С. (2019). Гамильтондық нейрондық желілер — Блог жазбасы.
7. Santos, C. et al. (2022). Симплектикалық импульстік нейрондық желілер. PMLR.