Hamiltonian Neural Networks: Does a Financial System Conserve Anything?
Гамильтондук нейрон тармактары жөнүндө эки суроо берсеңиз болот, алардын бири гана кызыктуу.
Кызыксыз суроо "HNNs туруктуубу?" Жооп ооба жана бул эксперимент эмес, теорема. Гамильтондун теңдемелерин архитектурага коддоо, симплекстик схема менен интеграциялоо жана артка карай каталарды талдоо экспоненциалдуу узун горизонттор боюнча чектелген энергия катасын берет. Каржы жөнүндө эч нерсе катышпайт. Буга ишенүү үчүн артка тесттин кереги жок.
Кызыктуу суроо - бул туруктуулуктун натыйжасы акырындык менен болжолдойт: финансылык абалдын вектору сакталган чоңдукту дегеле кабыл алабы? HNN бул же жокпу аныктабайт. бар. Ал болжолдойт бар жана ошол божомол боюнча эң жакшысын табат. Эгерде базарларда консервация жок болсо сиздин тандаган координаттарыңыз үчүн, тармак дагы эле биригет, дагы эле жылмакай скалярды чыгарат, дагы эле жардырбай интеграцияланат - жана бардыгы эч нерсенин абдан туруктуу модели болот.
Бул пост техниканы курат, андан кийин арткы жарымын аны бузууга аракет кылат. Сыноодогу доомат тар жана бурмалануучу: бул тандалган жуп - айталы, лог-баа жана EMA кирешелер - канондук конъюгат, мааниси кээ бирлери үчүн чындыгында туура келет . Бул эмпирикалык доомат жана долбоордун өзүнүн теория бөлүмү ага ишенүүгө эч кандай негиз бербейт.
Гамильтон механикасы: Бул жерде чындыгында эмне жаңы

Фазалык мейкиндик, динамикалык системалар, траекториялар жана орбиталар бул блогдо мурунтан эле лексика бар — караңыз algotradingдеги аттракторлор аныктамалар жана татаал көптөр Такенс киргизүү аркылуу фазалык мейкиндикти реконструкциялоо үчүн. Кийинки нерсе аларды болжолдойт.
Жаңы болгон бөлүк - бул симплекстик түзүлүш. Классикалык механиканын эки эквиваленттүү формуласы бар. Ньютон берет . Гамильтон скалярдык функцияны берет андан бардык динамика келип чыгат:
Үч натыйжа маанилүү жана алардын бири да жалпы динамикалык моделге жеткиликтүү эмес:
- траекториялар боюнча сакталып турат. Система туруктуу энергиялуу бетке — фазалык мейкиндиктин ичиндеги төмөнкү өлчөмдүү коллектор менен чектелген. Бул тенденция эмес, мамлекет кайда бара алат деген катуу чектөө.
- Симплекстик 2-форма сакталган. Фаза-мейкиндик көлөмү так сакталган (Лиувилл теоремасы). Траекториялар аттракторго жакындай албайт; агым кысылбайт.
- Динамикасы убакыт боюнча кайра кайтарылат. Агымды артка карай иштетиңиз жана сиз баштапкы абалды так калыбына келтиресиз.
2-пунктта токтоп туруу керек, анткени бул блогдогу бардык башка нерселер менен эң курч чыңалуу. Лиувиллдин теоремасы Гамильтон системасында аттракторлор жок дейт. Көлөмдү сактоочу агымдар эч нерсеге кире албайт. Эгер сиз рыноктордун өзүнө тартуучу түзүмү бар деп ишенсеңиз - жана аттракторлор макаласында алар ушундай деп ырасташат - анда сиз рыноктордун катаал мааниде Гамильтондук эмес экенине ишенесиз. Бул техникалык эмес, чыныгы конфликт жана төмөндөгү диссипативдик кеңейтүүлөр кийин ойлонулган нерсе эмес.
Интегратор эмне үчүн маанилүү
Наив интегратор (Эйлер, RK4) менен Гамильтондук системаны окшоштуруңуз жана эсептелген траектория туруктуу энергиянын бетинен акырындап кетет. Жергиликтүү кесүү катасы аз; геометриялык ката системалуу. Узун горизонттордо симуляция сапаттык жактан туура эмес болуп калат: жабылышы керек болгон орбиталар спиралдай баштайт.
Стандарттык нейрон тармактары тереңирээк бир себеп менен бирдей кемчиликке ээ. Туундуларга MLP картасын түзүүдө эч нерсени сактоо механизми жок. Ал жергиликтүү динамикаларды адекваттуу түрдө үйрөнүп, каталарды топтойт.
Коргоо талабы, Кыскача

Бул блог буга чейин базарлар сактоо сыяктуу принциптерге баш ийет деп ырасташкан - Algotrading үчүн Navier-Stokes, 2-бөлүк масса катары ликвиддүүлүктөн гидродинамикалык тобокелдиктерди башкарууга чейин иштин узундугун көрсөтөт жана эконофизика булактарын туура негиздейт. Орточо дисперсияны оптималдаштыруу дагы эле бул блогдогу Лагранж системасы: караңыз Markowitz портфолио теориясы чектелген квадраттык форма үчүн жана Алмгрен-Крис оптималдуу аткаруу тобокелдик-бюджет үчүн/ идентификация, кайда конъюгациялык импульстун ролун так аткарат.
Мунун эч бири бул жерде кайра алынган эмес, анткени кызыктуу кыймыл башка. Ал макалалар консервацияны моделге түрткү берүүчү метафора катары колдонушат. HNN консервацияны архитектуралык чектөөгө айландырат, аны маалыматтар талап кылса да модель буза албайт. Бул айырмачылык - жумшак аналогия менен катуу структура - кийинкинин бүт мазмуну жана ал эки жолду тең кыскартат: маалымат канааттандырбаган чектөө - бул алдын ала эмес, бул ката.
HNN Архитектурасы: Структуралык жана Жазаланган Консервация

Жалпы физикалык механизм — тармак чыгыштарынын кириштерге карата автоградтык туундуларын алып, физикалык калдыкты түзүп, аны минималдаштыруу — Навье-Стокс PINN макаласында көрсөтүлгөн: анын physics_loss функциясы autograd.grad аркылуу u_t, u_x, u_xx эсептеп, калдыкты квадраттайт. HNN ушул механизмди бир өзгөртүү менен колдонот, ал эми бүт маңызы ошол өзгөрүүдө.
PINN физикалык мыйзам бузууларды жазалайт. калдык - салмагы менен жоготуу мөөнөтү; оптимализатор аны маалыматтардын туура келишине каршы алмаштырат. салмакты төмөндөтүп, же аны карама-каршы маалыматтарды тапшыруу, жана тармак бактылуу мыйзамды бузган болот. Сактоо артыкчылык болуп саналат.
HNN сактоону структуралык кылат. Ал вектор талаасын үйрөнбөйт , бул чектөөсүз жана эч нерсени сактабайт. Бул скалярды үйрөнөт жана бир градиенттен вектор талаасынын эки компонентин тең чыгарат:
Эки туунду тең бир скаляр потенциалдан келип чыккандыктан, натыйжада талаа курулушу боюнча симплекстик-градиент болот. , окшош эле, ар бир параметр жөндөө үчүн — анын ичинде туш келди инициализацияланган, такыр үйрөтүлбөгөн тармак. Жөндөө үчүн эч кандай салмак жок. Сактоо - бул параметрдеги термин эмес, алгебралык идентификация.
Бул PINN сунуштаганга караганда алда канча күчтүү кепилдик жана ал бир топ катаал режим менен келет. Жоготуу туунду туундуларды байкалган маалыматтарга салыштырат:
Эгерде байкалган талаа эч нерсенин симплектикалык градиенти эмес - эгерде ал бүйрөлсө, параметрин көрсөтүүгө болбойт - жоготуу жөн эле нөлгө жете албайт. Калган пол оптималдаштыруу катасы эмес. Бул маалыматтардын Гамильтондукту кабыл алуудан канчалык алыс экенин өлчөө. Бул сан бүт архитектуранын эң пайдалуу натыйжасы жана бул посттун калган бөлүгү айланасында уюштурулган сан.
Тармактын өзү таң калыштуу эмес: бир MLP туурасы 200 эки тан катмары аркылуу скалярдык чыгарууга чейин.
Координаттар
каржылык колдонмолор үчүн, жалпыланган позиция (лог-баалар, портфелдин салмагы, факторлордун таасири) жана жалпыланган импульс (өзгөрүү темптери, импульстун көрсөткүчтөрү, агымдын өзгөрмөлөрү). анда тармак таба ала турган инварианттын баары - мүмкүн жалпы рыноктук капиталдаштыруу, балким, тобокелдик чарасы, балким, экономикалык окуусу жок абстракттуу сан, балким, эч нерсе.
жупташуу тандоо күнөөсүз эмес, бул стандарттуу презентацияда боштук болуп саналат. Эч нерсе жок" = лог-баа, = Кайтаруунун EMA" бул конъюгациялык экенин белгилейт. Коньюгация - бул конкреттүү структуралык байланыш — импульс канондук түрдө жупталышы керек , ушундай кээ бирлери үчүн кармайт . Аны ырастоо жана аны сынап көрүү ар кандай иш-аракеттер, ал эми ХННлерди каржылоого ылайыкташкан адабияттар негизинен биринчисин жасайт.
| (кызматтар) | (моменти) |
|---|---|
| Log-prices | кирешелердин EMA |
| Портфолионун салмагы | Салмагын өзгөртүү ылдамдыгы |
Симплектикалык интеграторлор

Үйрөнүү көйгөйдүн жарымы. Траекторияларды түзүү Гамильтондун теңдемелерин интеграциялоону талап кылат жана интегратор архитектура кепилдик берген нерсени жок кыла алат.
Симплектикалык интеграторлор сактоо так. Фаза-мейкиндик көлөмү сакталат, секулярдык дрейфтин ордуна чектелген ката менен өзүнүн чыныгы маанисинин тегерегинде термелет жана орбиталар сапаттык жактан туура бойдон калат. RK4 сизге кадам сайын азыраак ката берет жана бул касиеттердин бири да жок.
Эң жөнөкөй симплекстик схема Штормер-Верлет (секирик):
Бөлүнүүчү үчүн бул ачык жаңыртуулар. Финансылык Гамильтончулар жалпысынан бөлүнбөйт — импульстун динамикасы баага жараша болот жана тескерисинче, ошондуктан жалпы ишке ачык эмес кадамдар, жогорку тартиптеги методдор (Йошида, Форест-Рут) же төмөндөгү SympNets маршруту керек.
Тонг жана башкалар. (2020) секирик кадамдарды тармак катмарлары катары түзүү курулушу боюнча симплекстүү архитектураларды түзөрүн көрсөттү: ар бир катмар интеграциялык кадам, тереңдик кадамдардын санына барабар жана үйрөнүлгөн карта симплектикалык түзүлүшүн так сактайт.
Туруктуулук гарантиялары: Чыныгы жана чекиттин жанында

Туруктуулуктун касиеттери теоремалардан келип чыгат, ошондуктан алар базарлар жөнүндө эч нерсе далилдешпейт.
Артка каталарды талдоо. Симплектикалык интегратор колдонулат так жакын Гамильтонианы чечет . Эсептелген траектория бир аз бузулган системанын так траекториясы болуп саналат, ал эми КАМ теориясы энергия катасын экспоненциалдуу узак убакытка чектейт.
Ляпунов туруктуулук. Эгерде тең салмактуулукта минимумга ээ, өзү тең салмактуулуктун туруктуулугун далилдеген Ляпунов функциясы. Өзүнчө талдоо талап кылынбайт.
Эки натыйжа тең шарттуу туура объект болуу. Алар үйрөнгөн системанын симуляциясы ишенимдүү экенин айтышат; алар үйрөнгөн системанын базар экендиги жөнүндө эч нерсе айтышпайт. Кемчиликсиз сакталган 0,9 калдык полго орнотулган - бул артефакттын туруктуу симуляциясы.
| Property | Стандарттык NN + RK4 | HNN + симплекстик |
|---|---|---|
| 1000 кадамдан ашык энергиянын дрейфи | светтик, топтолот | чектелген, термелүүчү |
| Убакыттын кайтарымдуулугу | жок | ооба |
| Фаза-мейкиндик көлөмү | сакталган эмес | так сакталган |
| Аттракторлордун өкүлү | ооба | жок (Лиувилл) |
| интерпретациялануучу инвариант | эч ким |
Ишке ашыруу

Негизги HNN модулу
import torch
import torch.nn as nn
class HamiltonianNN(nn.Module):
"""Learns a scalar H(q, p); derives dynamics via Hamilton's equations."""
def __init__(self, input_dim: int, hidden_dim: int = 200):
super().__init__()
self.net = nn.Sequential(
nn.Linear(input_dim, hidden_dim), nn.Tanh(),
nn.Linear(hidden_dim, hidden_dim), nn.Tanh(),
nn.Linear(hidden_dim, 1),
)
def hamiltonian(self, q: torch.Tensor, p: torch.Tensor) -> torch.Tensor:
return self.net(torch.cat([q, p], dim=-1))
def time_derivative(self, q: torch.Tensor, p: torch.Tensor):
q = q.requires_grad_(True)
p = p.requires_grad_(True)
H = self.hamiltonian(q, p)
dH_dq, dH_dp = torch.autograd.grad(H.sum(), [q, p], create_graph=True)
return dH_dp, -dH_dq # dq/dt, dp/dt
Symplectic Leapfrog Integrator
class LeapfrogIntegrator:
"""Stormer-Verlet integrator. Preserves the symplectic structure."""
def __init__(self, hnn: HamiltonianNN, dt: float = 0.01):
self.hnn, self.dt = hnn, dt
def step(self, q: torch.Tensor, p: torch.Tensor):
_, dp_dt = self.hnn.time_derivative(q, p)
p_half = p + 0.5 * self.dt * dp_dt
dq_dt, _ = self.hnn.time_derivative(q, p_half)
q_new = q + self.dt * dq_dt
_, dp_dt = self.hnn.time_derivative(q_new, p_half)
return q_new, p_half + 0.5 * self.dt * dp_dt
def integrate(self, q0, p0, n_steps: int):
traj_q, traj_p, q, p = [q0], [p0], q0, p0
for _ in range(n_steps):
q, p = self.step(q, p)
traj_q.append(q); traj_p.append(p)
return torch.stack(traj_q), torch.stack(traj_p)
Фаза-космостук координаттар
Логолуу баалар, айырмаланган кирешелер, EMA импульсу жана жылма туруксуздугу бул блогдогу стандарттуу курулуш болуп саналат — диффузия моделиндеги куур жана татаал көптөр экөө тең жөнөтүшөт. Бул жерде маанилүү болгон эки гана сызык - конъюгациялык жупту аныктаган саптар:
q = np.log(prices)[w:-1] # generalised position
p = ewma(np.diff(np.log(prices), axis=0), w)[w-1:-1] # generalised momentum
Баары ылдыйда - чектүү айырма , , узундугу тегиздөө, Адам менен байкалган каршы алынган туундуларды дал окутуу цикли - механикалык болуп саналат.
Консервацияны текшерүү
def measure_conservation(hnn, integrator, q0, p0, n_steps=1000):
"""Energy drift along an integrated trajectory."""
with torch.no_grad():
traj_q, traj_p = integrator.integrate(q0, p0, n_steps)
energies = torch.stack([
hnn.hamiltonian(traj_q[i], traj_p[i]) for i in range(n_steps + 1)
]).squeeze().numpy()
return {
"H_initial": energies[0],
"H_final": energies[-1],
"drift": energies[-1] - energies[0],
"oscillation": energies.std(),
"relative_error": abs(energies[-1] - energies[0]) / abs(energies[0]),
}
Бул функция эмнени сынабай турганын байкаңыз. Ал интегратор сактап калбасын өлчөйт - бул теорема боюнча, болобу же жокпу эч нерсени билдирет. Үйрөнгөн Гамильтониандын үлгүдөгү сакталышы далил боло албайт. Маанилүү сыноо башка.
Фальсификация тести

Чынчыл эксперимент үч бөлүктөн турат жана ал терс натыйжа уяттуу эмес, маалыматтык болушу үчүн иштелип чыккан.
1. Калган пол. ылайыктуу реалдуу маалыматтар боюнча жана сактоо эмес, бириктирилген жоготуу жөнүндө отчет. Симплекстик-градиенттик параметр тармал менен вектордук талааны көрсөтө албайт; кабат байкалган динамиканын Гамильтондук эмес компонентин өлчөйт. Чектелбеген MLPди окшош маалыматтарга шилтеме катары орнотуңуз — анын структуралык чектөөсү жок, андыктан эки кабаттын ортосундагы ажырым * маселенин жоготуу бирдиктеринде айтылган Гамильтондук божомолдун баасы болуп саналат.
2. Үлгүдөн тышкаркы сактоо. Бир терезеге батырып, анан баалаңыз * байкалган* үлгүдөн тышкаркы траектория боюнча — интеграцияланган эмес, реалдуу баа жолу. Эгерде чындап канондук болуп саналат, эч качан көрбөгөн маалыматтар боюнча болжол менен туруктуу бойдон калууда. Эгерде үлгүдөн чыгып кетет, сакталган сан үлгүдөгү артефакт болгон жана архитектуранын кепилдиги эч кандай иш жасабайт.
3. Координаттык абляция. Бул теория бөлүмү талап кылган бөлүгү жана каржылык HNN презентациялары иштебейт окшойт. Эч нерсе лог-баа менен EMA-of-returns конъюгациялык экенин аныктабайт; деп ырасталат. Ошентип, жупташтырууларды бири-бирине каршы сынап көрүңүз - (лог-баа, EMA кирешелери), (лог-баа, чийки кирешелер), (портфелдин салмагы, салмактын өзгөрүү ылдамдыгы) - жана аларды үлгүдөн тышкаркы көрсөткүчтөр боюнча рейтингдеңиз туруктуулук. Башкаруу катары аралаштырылган-кайтаруучу суррогатка каршы: убактылуу түзүлүштү жок кылуу, маргиналдуу бөлүштүрүүнү сактоо, кайра орнотуу. Эгерде суррогат менен салыштырууга болот туруктуулук, "сакталган сан" рыноктун эмес, параметрлештирүү менчиги болуп саналат.
Менин мурунку, фактыга чейин айтылган, ошондуктан аны натыйжага каршы текшерүү үчүн: бул ишке ашпай жатат. Жоопкерчилик жогорудагы праймерде - Лиувиллдин теоремасы аттракторлорго тыюу салат, базарлар тартылуучу түзүмгө ээ болуп көрүнөт жана төмөндөгү эки качуу люктары тең Гамильтондун катаал божомолуна туура келбейт. Калган кабат бийик жана үлгүдөн тышкары болсо ар бир жупташуу боюнча туруксуз, башкача айтканда, физика боюнча алдын ала так өлчөнгөн терс, жана бул блог мурункуларды жарыялаган (чынчыл терс, deflated Sharpe). Таланттуу теория боюнча өлчөнгөн терс баа текшерилбеген окуу куралынан кымбатыраак.
Консервация ишке ашпай калса: диссипативдик кеңейтүүлөр

Чыныгы базарлар агып жатат. Транзакцияга кеткен чыгымдар, тайгалануу жана маалыматтын бузулушу системадан энергияны алып салат жана катуу сакталган муну билдире албайт. Эки принципиалдуу релаксация бар жана экөөнү тең тактоо катары эмес, божомол өтө күчтүү болгон деген концессия катары окуу керек:
- Конформалдуу Гамильтониан: модель үйрөнгөн диссипациялык ылдамдык менен . Орнотулган чоңдугу өзү өлчөө болуп саналат - система консервативдиктен канчалык алыс турат.
- Порт-Гамильтониан: , менен симплекстик матрица, диссипация матрицасы, жана сырттан мажбурлоо (жаңылыктар, агымдар). Бул жерде карата кетүүнү түздөн-түз аныктайт.
Экөө тең аттракторлорду көрсөтүү жөндөмдүүлүгүн калыбына келтирет, бул архитектурага түрткү болгон чектелүү ката кепилдиги. Бул ачык-айкын айтылган соода: сиз Лиувиллге ээ боло аласыз же чачырап кете аласыз, базарлар экинчини каалап жаткандай.
Тиешелүү ачык көйгөйлөр: каржылык Гамильтондор бөлүүгө болбойт (жабыртылган же жогорку даражадагы симплекстик кадамдарды талап кылат, же SympNets симплекстик карталарды түздөн-түз үйрөнүү) жана базарлар бир нече убакыт масштабында иштейт тез жана жай динамика үчүн иерархиялык Гамильтондуктар же тез масштабдын параметрлери катары жай өзгөрмөлөргө адиабаттык мамиле жасоо мүмкүн эмес. .
Корутунду

Техника иштейт. Скалярды үйрөн , анын градиентинен вектор талаасын чыгарып, симплектикалык интегралдасаңыз, алгебралык бирдейлик катары сакталууга, миңдеген кадамдар боюнча чектелген катага, так убакыттын кайтарымдуулугуна жана Ляпунов функциясына бекер ээ болосуз. Бул дооматтардын ар бири теорема болуп саналат жана алардын бири да ырастоону талап кылбайт.
Валидацияны талап кылган нерсе бул. HNNs сакталган чоңдуктун бар-жоктугун текшербейт — алар аны болжолдойт жана ага карабастан, жылмакай, туруктуу, жакшы жүрүм-турум моделине жакындашып, божомол боюнча оптималдашышат. калдык кабат жана үлгүдөн тышкары туруктуулук "базар бир нерсени сактайт" менен "параметрлештирүү ар дайым бир нерсени өндүрөт" деген эки гана цифра болуп саналат.
Демек, бул посттун аягы HNNs туруктуубу деген суроо эмес. Бул кооздук BTCUSDT менен байланышта болобу - жана бул сандар баракта болмоюнча, каржылык машинаны үйрөнүүдөгү ар бир сактоо дооматына карата туура поза, анын ичинде бул сыналган эмес.
Шилтемелер
- Greydanus, S., Dzamba, M., & Sprague, J. (2019). Гамильтондук нейрон тармактары. NeurIPS 2019.
- Тонг, Ю., Сионг, С., Хэ, Х., Пан, Г., & Жу, Б. (2020). Симплектикалык интеграторлорго негизделген терең Гамильтондук тармактар. arXiv алдын ала басып чыгаруу.
- Baaquie, B. E. (2000). Финансы рынокторундагы Гамильтониан. arXiv алдын ала басып чыгаруу.
- Cotler, J. & Rezchikov, S. (2023). Опцион баанын динамикасын чечүү үчүн эффективдүү Гамильтондук симуляция. Physical Review Research.
- Gonon, P. & Ortega, J.-P. (2009). Stock Markets and Quantum Dynamics. arXiv алдын ала басып чыгаруу.
- Greydanus, S. (2019). Hamiltonian Neural Networks — Blog Post.
- Santos, C. et al. (2022). Symplectic Momentum Neural Networks. PMLR.
Authors
Trading-systems engineer
Trading-systems engineer building bots since 2017: cross-exchange arbitrage (connected up to 30 venues), cointegration-based pairs arbitrage across spot and futures, scalping, news and sentiment-driven strategies, trend algorithms, and portfolio management and balancing algorithms. Also builds sub-millisecond order execution, big-data warehouses, backtesting engines, AI agents, and trading interfaces (incl. open-source profitmaker.cc). Stack: JS/TS, Python, Rust/Zig/Go, DevOps, backend, frontend, architecture.