Hamiltonian Neural Networks: Does a Financial System Conserve Anything?
Hamilton Sinir Ağları hakkında sorabileceğiniz iki soru var ve bunlardan yalnızca biri ilginç.
Sıkıcı soru şu: "HNN'ler kararlı mı?" Cevap evet ve bu bir deney değil, bir teoremdir. Hamilton denklemlerini mimariye kodlayın, basit bir şemayla entegre edin ve geriye doğru hata analizi, üstel olarak uzun ufuklar boyunca sınırlı enerji hatasını size sunar. Finansla ilgili hiçbir şey söz konusu değil. Buna inanmak için geçmişe dönük bir teste ihtiyacınız yok.
İlginç olan soru, istikrar sonucunun sessizce varsaydığı sorudur: bir finansal durum vektörü, korunan bir miktarı kabul eder mi? Bir HNN, bunun olup olmadığını keşfetmez. var. Varsayalım var olur ve bu varsayım altında en iyisini bulur. Piyasalarda korunmuş bir şey yoksa Seçtiğiniz koordinatlar için ağ hâlâ birleşecek, yine pürüzsüz bir skaler üretecek, yine patlamadan bütünleşecek ve her şey çok kararlı bir hiçlik modeli olacak.
Bu yazı makineyi inşa ediyor, ardından arka yarısını onu kırmaya çalışarak geçiriyor. Test edilen iddia dar kapsamlı ve yanlışlanabilir: seçilmiş bir çift - örneğin log fiyatı ve getirilerin EMA'sı - kanonik olarak eşleniktir, yani aslında bazıları için geçerli . Bu ampirik bir iddiadır ve taslağın kendi teori bölümü buna inanmak için hiçbir neden sunmuyor.
Hamilton Mekaniği: Burada Aslında Yeni Olan Nedir?

Faz uzayı, dinamik sistemler, yörüngeler ve yörüngeler zaten bu blogda yer alan kelimelerdir - tanımlar için algotrading'deki çekiciler'e ve Takens yerleştirme yoluyla faz-uzayı yeniden inşası için karmaşık manifoldlara bakın. Aşağıdakiler onları varsayar.
Yeni olan kısım ise simplektik yapıdır. Klasik mekaniğin iki eşdeğer formülasyonu vardır. Newton verir . Hamilton skaler bir fonksiyon veriyor tüm dinamiklerin takip ettiği nokta:
Üç sonuç önemlidir ve bunların hiçbiri genel bir dinamik model için mevcut değildir:
-
yörüngeler boyunca korunur. Sistem, sabit enerjili bir yüzeyle (faz uzayı içinde daha düşük boyutlu bir manifold) sınırlandırılmıştır. Bu bir eğilim değil, devletin nereye gidebileceğine dair katı bir kısıtlamadır.
-
Semplektik 2-form korunur. Faz-uzay hacmi tam olarak korunur (Liouville teoremi). Yörüngeler bir çekiciye yaklaşamaz; akış sıkıştırılamaz.
-
Dinamikler zamanla tersine çevrilebilir. Akışı geriye doğru çalıştırdığınızda başlangıç durumunu tam olarak geri kazanırsınız.
-
nokta üzerinde durmaya değer çünkü bu blogdaki diğer her şey arasında en keskin gerilimdir. Liouville teoremi, Hamilton sisteminin hiçbir çekicisinin olmadığını söylüyor. Hacmi koruyan akışlar hiçbir şeye bağlanamaz. Piyasaların çekici bir yapıya sahip olduğuna inanıyorsanız (ki çekiciler makalesi öyle olduğunu iddia ediyor) o zaman piyasaların tam anlamıyla Hamiltoncu olmadığına zaten bağlısınız. Bu gerçek bir çelişkidir, teknik bir husus değildir ve aşağıdaki enerji tüketen uzantıların sonradan akla gelen bir düşünce olmamasının nedeni de budur.
Entegratör Neden Önemlidir
Saf bir entegratör (Euler, RK4) ile bir Hamilton sistemini simüle edin ve hesaplanan yörünge sabit enerji yüzeyinden yavaşça uzaklaşır. Yerel kesme hatası küçüktür; geometrik hata sistematiktir. Uzun ufuklarda simülasyon niteliksel olarak yanlış hale gelir: kapanması gereken yörüngeler sarmallaşmaya başlar.
Standart sinir ağları daha derin bir nedenden dolayı aynı kusura sahiptir. Türevlere yönelik bir MLP eşleme durumunun hiçbir şeyi koruyacak mekanizması yoktur. Yerel dinamikleri yeterince öğreniyor ve birleşen hataları biriktiriyor.
Kısaca Koruma İddiası

Bu blog zaten piyasaların koruma benzeri ilkelere uyduğunu savundu - Navier-Stokes for algotrading, bölüm 2 kütle olarak likiditeden hidrodinamik risk yönetimine kadar konuyu uzun uzadıya anlatıyor ve ekonofizik çerçevenin doğru şekilde oluşturulmasına kaynak sağlıyor. Ortalama varyans optimizasyonu da bu blogda zaten bir Lagrangian sistemidir: kısıtlı ikinci dereceden form için Markowitz portföy teorisine bakın ve risk bütçesi/ için Almgren-Chriss optimal yürütmesine bakın. kimlik, nerede tam olarak eşlenik momentum rolünü oynar.
Bunların hiçbiri burada yeniden türetilmiyor çünkü ilginç hareket farklı. Bu makaleler korumayı bir modeli motive eden bir metafor olarak kullanıyor. Bir HNN, korumayı, veriler istese bile modelin ihlal edemeyeceği bir mimari kısıtlamaya dönüştürür. Bu fark (yumuşak analojiye karşı sert yapı) aşağıdakilerin tüm içeriğidir ve her iki yolu da keser: Verinin karşılamadığı bir kısıtlama bir öncelik değil, bir hatadır.
HNN Mimarisi: Yapısal ve Cezalandırılmış Koruma

Genel fizik bilgili mekanizma - ağ çıktısının girdilerine göre otograd türevlerini almak, bir fizik kalıntısı oluşturmak, onu en aza indirmek - halihazırda Navier-Stokes PINN'de gösterilmiştir. physics_loss inşa eder u_t, u_x, u_xx aracılığıyla autograd.grad ve kalanın kareleri. HNN aynı mekanizmayı tek bir değişiklikle kullanır ve asıl mesele değişikliktir.
PINN, fiziksel bir yasanın ihlalini cezalandırır. Artık, ağırlığı olan bir kayıp terimidir; optimizer bunu veri uyumuna göre değiştirir. Ağırlığı azaltın veya çelişkili verileri verin; ağ memnuniyetle yasayı ihlal edecektir. Korumak bir tercihtir.
Bir HNN korumayı yapısal yapar. Vektör alanını öğrenmez , kısıtlamasızdır ve hiçbir şeyi korumaz. Bir skaler öğrenir ve vektör alanının her iki bileşenini de tek bir degradeden türetir:
Her iki türev de tek bir skaler potansiyelden geldiğinden, ortaya çıkan alan yapısı gereği simplektik gradyandır. , aynı şekilde, her parametre ayarı için — rastgele başlatılan, tamamen eğitimsiz bir ağ dahil. Ayarlanacak bir ağırlık yok. Korunum, amaçtaki bir terim değil, parametreleştirmenin cebirsel özdeşliğidir.
Bu, PINN'in sunduğundan çok daha güçlü bir garantidir ve çok daha keskin bir arıza moduyla birlikte gelir. Kayıp, türetilen türevleri gözlemlenen verilerle karşılaştırır:
Eğer gözlemlenirse alan herhangi bir şeyin simplektik gradyanı değildir - eğer parametreleştirmenin temsil edemeyeceği bir rotasyonel varsa - kayıp basitçe sıfıra ulaşamaz. Kalan kat bir optimizasyon hatası değildir. Bu, verinin Hamiltonian'ı kabul etmekten ne kadar uzak olduğunun bir ölçüsüdür. Bu sayı, tüm bu mimarinin en kullanışlı çıktısıdır ve bu yazının geri kalanı da bu sayı etrafında organize edilmiştir.
Ağın kendisi dikkat çekici değildir: bir MLP genişliği 200 olan iki tanh katmanından skaler bir çıktıya kadar.
Koordinatlar
Finansal başvurular için, genelleştirilmiş bir pozisyondur (log fiyatları, portföy ağırlıkları, faktör riskleri) ve genelleştirilmiş bir momentum (değişim oranları, momentum göstergeleri, akış değişkenleri). o zaman ağın bulabileceği değişmez şey odur - muhtemelen toplam piyasa değeri, muhtemelen bir risk ölçüsü, muhtemelen ekonomik değeri olmayan soyut bir miktar, muhtemelen hiçbir şey.
Eşleştirme seçimi masum değildir ve bu, standart sunumdaki boşluktur. " hakkında hiçbir şey yok = günlük fiyatı, = Getirilerin EMA'sı" bunların eşlenik olduğunu tespit eder. Eşlenik belirli bir yapısal ilişkidir — momentum kanonik olarak eşleştirilmiş olmalıdır öyle ki bazıları için geçerli . Bunu iddia etmek ve test etmek farklı faaliyetlerdir ve HNN'leri finansa uyarlayan literatür çoğunlukla ilkini yapar.
| (pozisyonlar) | (bir an) |
|---|---|
| Günlük fiyatları | İadelerin EMA'sı |
| Portföy ağırlıkları | Ağırlık değişim oranları |
Simplektik Entegratörler

Öğrenme sorunun yarısıdır. Yörüngeler oluşturmak Hamilton denklemlerinin entegre edilmesini gerektirir ve entegratör, mimarinin garanti ettiği şeyi yok edebilir.
Simplektik entegratörler korumak Kesinlikle. Faz-uzay hacmi korunur, seküler olarak sürüklenmek yerine sınırlı hatayla gerçek değeri etrafında salınır ve yörüngeler niteliksel olarak doğru kalır. RK4 size daha küçük adım başına hata verir ve bu özelliklerin hiçbirini vermez.
En basit sempatik şema Stormer-Verlet'tir (birdirbir):
Ayrılabilir için bunlar açık güncellemelerdir. Finansal Hamiltoniyenler genellikle ayrılamazlar - momentum dinamikleri fiyatlara bağlıdır ve bunun tersi de geçerlidir - bu nedenle genel durum örtülü adımlara, daha üst düzey yöntemlere (Yoshida, Forest-Ruth) veya aşağıdaki SympNets rotasına ihtiyaç duyar.
Tong ve ark. (2020), ağ katmanları olarak sıçrama adımları oluşturmanın, yapı itibariyle sempatik mimariler ürettiğini gösterdi: her katman bir entegrasyon adımıdır, derinlik, adım sayısına eşittir ve öğrenilen harita Simplektik yapıyı aynen korur.
İstikrar Garantileri: Gerçek ve Amacın Dışında

Kararlılık özellikleri teoremlerden kaynaklanır ve tam da bu nedenle piyasalar hakkında hiçbir şey kanıtlamazlar.
Geriye doğru hata analizi. Basit bir entegratör uygulandı. yakındaki bir Hamiltonyen'i tam olarak çözer . Hesaplanan yörünge, hafif tedirgin bir sistemin tam yörüngesidir ve KAM teorisi, enerji hatasını üstel olarak uzun sürelerle sınırlar.
Lyapunov kararlılığı. Eğer bir dengede minimuma sahiptir, kendisi dengenin kararlı olduğunu kanıtlayan bir Lyapunov fonksiyonudur. Ayrı bir analize gerek yok.
Her iki sonuç da şarta bağlı doğru nesne olmak. Size öğrenilen sistemin simülasyonunun sadık olduğunu söylüyorlar; öğrenilen sistemin piyasa olup olmadığına dair hiçbir şey söylemiyorlar. Kusursuz bir şekilde korunmuş 0,9'luk bir artık zemine yerleştirilmiş bir eserin kararlı bir simülasyonudur.
| Emlak | Standart NN + RK4 | HNN + simplektik |
|---|---|---|
| 1000 adımda enerji kayması | laik, birikir | sınırlı, salınımlı |
| Zamanın tersine çevrilebilirliği | hayır | evet |
| Faz-uzay hacmi | korunmamış | tam olarak korunmuş |
| Temsil edilebilir çekiciler | evet | hayır (Liouville) |
| Yorumlanabilir değişmez | hiçbiri |
Uygulama

Çekirdek HNN Modülü
import torch
import torch.nn as nn
class HamiltonianNN(nn.Module):
"""Learns a scalar H(q, p); derives dynamics via Hamilton's equations."""
def __init__(self, input_dim: int, hidden_dim: int = 200):
super().__init__()
self.net = nn.Sequential(
nn.Linear(input_dim, hidden_dim), nn.Tanh(),
nn.Linear(hidden_dim, hidden_dim), nn.Tanh(),
nn.Linear(hidden_dim, 1),
)
def hamiltonian(self, q: torch.Tensor, p: torch.Tensor) -> torch.Tensor:
return self.net(torch.cat([q, p], dim=-1))
def time_derivative(self, q: torch.Tensor, p: torch.Tensor):
q = q.requires_grad_(True)
p = p.requires_grad_(True)
H = self.hamiltonian(q, p)
dH_dq, dH_dp = torch.autograd.grad(H.sum(), [q, p], create_graph=True)
return dH_dp, -dH_dq # dq/dt, dp/dt
Symplectic Birdirbir Entegratörü
class LeapfrogIntegrator:
"""Stormer-Verlet integrator. Preserves the symplectic structure."""
def __init__(self, hnn: HamiltonianNN, dt: float = 0.01):
self.hnn, self.dt = hnn, dt
def step(self, q: torch.Tensor, p: torch.Tensor):
_, dp_dt = self.hnn.time_derivative(q, p)
p_half = p + 0.5 * self.dt * dp_dt
dq_dt, _ = self.hnn.time_derivative(q, p_half)
q_new = q + self.dt * dq_dt
_, dp_dt = self.hnn.time_derivative(q_new, p_half)
return q_new, p_half + 0.5 * self.dt * dp_dt
def integrate(self, q0, p0, n_steps: int):
traj_q, traj_p, q, p = [q0], [p0], q0, p0
for _ in range(n_steps):
q, p = self.step(q, p)
traj_q.append(q); traj_p.append(p)
return torch.stack(traj_q), torch.stack(traj_p)
Faz-Uzay Koordinatları
Log fiyatları, farklı getiriler, EMA momentumu ve yuvarlanan oynaklık bu blogda standart yapıdır — difüzyon modeli boru hattı ve karmaşık manifoldlar her ikisi de bunu sağlar. Burada önemli olan yalnızca iki çizgi eşlenik çifti tanımlayanlardır:
q = np.log(prices)[w:-1] # generalised position
p = ewma(np.diff(np.log(prices), axis=0), w)[w-1:-1] # generalised momentum
Aşağı yöndeki her şey - sonlu fark , , uzunluk hizalaması, türetilmiş türevleri Adam ile gözlemlenenlerle eşleştiren eğitim döngüsü mekaniktir.
Koruma Kontrolü
def measure_conservation(hnn, integrator, q0, p0, n_steps=1000):
"""Energy drift along an integrated trajectory."""
with torch.no_grad():
traj_q, traj_p = integrator.integrate(q0, p0, n_steps)
energies = torch.stack([
hnn.hamiltonian(traj_q[i], traj_p[i]) for i in range(n_steps + 1)
]).squeeze().numpy()
return {
"H_initial": energies[0],
"H_final": energies[-1],
"drift": energies[-1] - energies[0],
"oscillation": energies.std(),
"relative_error": abs(energies[-1] - energies[0]) / abs(energies[0]),
}
Bu işlevin neyi test etmediğine dikkat edin. Entegratörün korunup korunmadığını ölçer. - teoreme göre, ister olsun ister olmasın öyle olacaktır herhangi bir şey ifade ediyor. Öğrenilmiş bir Hamiltonyen'in örnek içi korunumu kanıt değildir. Önemli olan test farklıdır.
Sahtecilik Testi

Dürüst deney üç bölümden oluşur ve olumsuz bir sonucun utanç verici olmaktan ziyade bilgilendirici olmasını sağlayacak şekilde tasarlanmıştır.
1. Kalan zemin. Sığdır gerçek verilere dayanarak ve korumayı değil, birleştirilmiş kayıpları rapor edin. Simplektik gradyan parametreleştirmesi, rotasyonelli bir vektör alanını temsil edemez; zemin gözlemlenen dinamiğin Hamilton olmayan bileşenini ölçer. Kısıtlamasız bir MLP'yi referansla aynı verilere yerleştirin; yapısal bir kısıtlaması yoktur, dolayısıyla iki kat arasındaki boşluk, problemin kayıp birimlerinde belirtilen Hamilton varsayımının maliyetidir *.
2. Örnek dışı koruma. Bir pencereye sığdırın, ardından değerlendirin gözlenen örnek dışı yörünge boyunca - entegre bir yol değil, gerçek fiyat yolu. Eğer gerçekten kanoniktir, hiç görmediği veriler boyunca kabaca sabit kalır. Eğer numunenin dışına çıktığında, korunan miktar numune içi bir eserdir ve mimarinin garantisi hiçbir iş yapmamaktır.
3. Ablasyonu koordine edin. Bu, teori bölümünün talep ettiği kısımdır ve finansal HNN'lere ilişkin hiçbir sunum yapılmamaktadır. Hiçbir şey log fiyatı ile EMA getirilerinin eşlenik olduğunu kanıtlamaz; iddia ediliyor. Bu nedenle eşleşmeleri birbirlerine göre test edin (log fiyatı, EMA getirileri), (log fiyatı, ham getiriler), (portföy ağırlıkları, ağırlık değişim oranları) ve bunları örneklem dışı olarak sıralayın istikrar. Kontrol olarak karıştırılmış geri dönüşlere karşı: zamansal yapıyı yok edin, marjinal dağılımı koruyun, yeniden düzenleyin. Eğer vekil karşılaştırılabilir sonuçlar veriyorsa istikrar, "korunan miktar" piyasadan ziyade parametreleştirmenin bir özelliğidir.
Benim önceliğim, sonuca göre kontrol edilebilmesi için olaydan önce belirtmiştim: bu başarısız oluyor. Mantık yukarıdaki girişte yer alıyor - Liouville'in teoremi çekicileri yasaklıyor, piyasalar çekici bir yapıya sahip gibi görünüyor ve aşağıdaki kaçış yollarının her ikisi de katı Hamilton varsayımının geçerli olmadığının kabulleridir. Kalan zemin yüksek ve numune dışı ise her eşleşmede kararsız, bu fizik bilgili bir önceki testte temiz ölçülmüş bir negatif ve bu blog daha önce bunları yayınlamıştı (dürüst negatif, deflated Sharpe). Zarif bir teorinin ölçülmüş bir negatifi, denenmemiş bir dersten daha değerlidir.
Koruma Başarısızsa: Enerji Tüketen Uzantılar

Gerçek piyasalar sızdırıyor. İşlem maliyetleri, kayma ve bilgi bozulması, sistemdeki enerjiyi ortadan kaldırır ve sıkı bir şekilde korunur. bunu temsil edemez. İki prensipte gevşeme mevcuttur ve her ikisi de, iyileştirmeler olarak değil, varsayımın çok güçlü olduğuna dair tavizler olarak okunmalıdır:
- Konformal Hamiltoniyen: model öğrenilmiş bir dağılma oranıyla . Takılan büyüklüğü sistemin muhafazakarlıktan ne kadar uzakta olduğu başlı başına bir ölçümdür.
- Port-Hamiltonian: , ile simplektik matris, dağılım matrisi ve dış zorlama (haberler, akışlar). Burada göreli ayrılışı doğrudan ölçer.
Her ikisi de, mimariyi motive eden sınırlı hata garantisi pahasına, çekicileri temsil etme yeteneğini geri kazandırır. Açıkça ifade edilen ticaret budur: Liouville'e sahip olabilirsiniz ya da dağılmaya sahip olabilirsiniz ve piyasalar ikinciyi istiyor gibi görünüyor.
İlgili açık problemler: finansal Hamiltoniyenler ayrılamaz (örtük veya daha yüksek düzeyde sempatik adımlar veya [SympNets] gerektirir)(https://arxiv.org/abs/2408.09821) sempatik haritaların doğrudan öğrenilmesi) ve piyasalar, tek bir zaman ölçeğinde faaliyet gösterir. hızlı ve yavaş dinamikler için hiyerarşik Hamiltoniyenleri veya yavaş değişkenlerin hızlı ölçeğin parametreleri olarak adyabatik olarak ele alınmasını yakalamak pek mümkün değildir. .
Sonuç

Makine çalışıyor. Bir skaler öğrenin , vektör alanını gradyanından türetin, sembolik olarak integral alın ve cebirsel bir özdeşlik olarak korunumu, binlerce adımda sınırlı hatayı, tam zamanda tersinirliği ve bir Lyapunov fonksiyonunu ücretsiz olarak elde edin. Bu iddiaların her biri bir teoremdir ve hiçbirinin doğrulanması gerekmez.
Doğrulama gerektiren şey öncüldür. HNN'ler, korunan bir miktarın var olup olmadığını test etmezler; bunu varsayarlar ve varsayım altında optimizasyon yaparak pürüzsüz, istikrarlı, iyi huylu bir modele yakınsarlar. Artık zemin ve numune dışı istikrar, "piyasa bir şeyleri korur" ifadesini "parametreleştirme her zaman bir şeyler üretir" ifadesinden ayıran yegâne iki rakamdır.
Dolayısıyla bu yazının bittiği soru HNN'lerin kararlı olup olmadığı değil. Önemli olan, zarafetin BTCUSDT ile temasta hayatta kalıp kalmayacağıdır - ve bu rakamlar sayfada görünene kadar, finansal makine öğrenimindeki, bu da dahil olmak üzere, her koruma iddiasına yönelik doğru duruş, bunların test edilmemiş olmasıdır.
Referanslar
- Greydanus, S., Dzamba, M. ve Sprague, J. (2019). Hamilton Sinir Ağları. NeurIPS 2019.
- Tong, Y., Xiong, S., He, X., Pan, G. ve Zhu, B. (2020). Simplektik Bütünleştiricilere Dayalı Derin Hamilton Ağları. arXiv ön baskısı.
- Baaquie, B.E. (2000). Finansal Piyasalarda Hamiltoniyen. arXiv ön baskısı.
- Cotler, J. ve Rezchikov, S. (2023). Opsiyon Fiyat Dinamiklerini Çözmek için Etkin Hamilton Simülasyonu. Fiziksel İnceleme Araştırması.
- Gonon, P. ve Ortega, J.-P. (2009). Borsalar ve Kuantum Dinamiği. arXiv ön baskısı.
- Greydanus, S. (2019). Hamilton Sinir Ağları — Blog Yazısı.
- Santos, C. ve diğerleri. (2022). Simplektik Momentum Sinir Ağları. PMLR.
Yazarlar
Trading-systems engineer
Trading-systems engineer building bots since 2017: cross-exchange arbitrage (connected up to 30 venues), cointegration-based pairs arbitrage across spot and futures, scalping, news and sentiment-driven strategies, trend algorithms, and portfolio management and balancing algorithms. Also builds sub-millisecond order execution, big-data warehouses, backtesting engines, AI agents, and trading interfaces (incl. open-source profitmaker.cc). Stack: JS/TS, Python, Rust/Zig/Go, DevOps, backend, frontend, architecture.