Kronos: Model Asas yang Mengajar Carta Candlestick Berbicara dalam Bahasa Transformer

Jika pasaran adalah hingar-bingar, maka sebarang usaha untuk meramalkan lilin seterusnya adalah seperti menghuraikan statik radio. Para penulis Kronos mencadangkan pendekatan radikal: tukar lilin bursa kepada token diskret (seperti kata-kata dalam bahasa) dan latih transformer untuk meramalkan "kata seterusnya" — iaitu lilin berikutnya.

Ini bukan transformer siri masa sejagat "untuk semua keadaan" tetapi sebuah model khusus untuk K-line multidimensi (OHLCV) dengan ciri-ciri kalendar. Repositori shiyu-coder/Kronos terbuka di bawah MIT, berat model di Hugging Face, kertas diterima di AAAI 2026.

Idea Teras: Lilin = Bahasa

Sama seperti ChatGPT belajar meramalkan kata seterusnya dalam teks, Kronos belajar meramalkan lilin seterusnya dalam siri harga. Namun pertama sekali, anda perlu menyelesaikan masalah utama: lilin adalah vektor berterusan (buka, tinggi, rendah, tutup, isipadu), manakala transformer berfungsi dengan token diskret.

Penyelesaiannya — seni bina dua peringkat:

1. Tokenizer (BSQ) — memampatkan lilin berterusan kepada kod diskret
2. Dekoder (transformer) — meramalkan kod seterusnya secara autoregresi

Tokenizer BSQ: Cara Memampatkan Lilin kepada Dua Nombor

Modul utama — Binary Spherical Quantizer (BSQ):

• Vektor lilin berterusan diunjurkan ke atas sfera (F.normalize)
• Kemudian dikuantisasi kepada kod binari
• Kod dibahagikan kepada dua peringkat: kasar (S1) dan terperinci (S2)

Ini adalah pemfaktoran perbendaharaan kata: berbanding satu kamus besar bersaiz S1 × S2, model menggunakan dua jadual pembenaman kecil — jauh lebih cekap.

Dekoder Hierarki: Dahulu Senario, Kemudian Butiran

Kepala dwi (DualHead) berfungsi secara berurutan:

1. Pertama model meramalkan S1 — "senario kasar" (naik? turun? lebih kurang berapa?)
2. Kemudian dengan S1 tetap, menghalusi S2 — butiran (harga tepat, isipadu)

Pautan

• 💻 GitHub: shiyu-coder/Kronos
• 📄 Kertas: arXiv:2508.02739
• 📄 Lesen: MIT

Kesimpulan

Kronos bukan "sekadar transformer lain untuk siri masa" tetapi sebuah saluran paip yang koheren: tokenizer BSQ dengan kawalan codebook, model bahasa hierarki dengan dua peringkat diskretisasi, autoregresi dengan pensampelan dua peringkat, normalisasi tetingkap tempatan. Ini adalah pelaksanaan terbuka idea "lilin = bahasa".