Deteksi Anomali untuk Perlindungan Bot Trading: Dari Z-Score hingga Transformer

Siapa pun yang pernah menjalankan bot trading di bursa kripto pasti mengenal perasaan ini: bot berjalan sempurna selama seminggu, lalu menghabiskan keuntungan seminggu hanya dalam 30 detik. Flash crash di satu bursa. Dinding palsu di order book. Kaskade likuidasi. Atau bursa yang tiba-tiba mengembalikan data sampah.

Semua situasi ini memiliki satu kesamaan — semuanya adalah anomali. Dan jika bot Anda tidak bisa mengenalinya, cepat atau lambat ia akan menjadi korbannya.

Apa yang Dianggap Anomali dalam Trading Kripto

Sebelum memburu anomali, kita perlu menyepakati apa yang kita cari. Machine learning membedakan tiga jenis, dan ketiganya terjadi di pasar kripto setiap hari.

Anomali titik (point anomalies) — kejadian terisolasi yang menyimpang tajam dari norma. Sebuah candle dengan volume 50 kali di atas rata-rata. Spread BTC/USDT di Binance melonjak hingga 0,5%. Bagi bot market-making, setiap kejadian seperti itu adalah jebakan potensial: masuk posisi pada harga palsu atau mengalami slippage yang menghabiskan seluruh margin.

Anomali kolektif (collective anomalies) — serangkaian kejadian yang terlihat normal secara individual tetapi menandakan masalah secara agregat. Contoh klasik adalah spoofing: seseorang menempatkan dan membatalkan order limit besar selama beberapa menit. Setiap order individual terlihat biasa, tetapi pola "pasang-batalkan-pasang-batalkan" dengan rasio order-to-trade 100:1 adalah manipulasi — dan bot yang mengandalkan kedalaman order book akan berdagang pada likuiditas yang tidak nyata.

Anomali kontekstual (contextual anomalies) — nilai normal dalam konteks yang salah. Volume perdagangan Bitcoin yang khas untuk sesi London, tetapi terlihat pada pukul 3 pagi UTC di hari Minggu. Tanpa mempertimbangkan konteks, anomali seperti ini tidak terlihat — dan inilah yang paling sering lolos dari detektor dasar.

Visualisasi tiga jenis utama anomali dalam data trading: lonjakan titik, pola kolektif, dan penyimpangan kontekstual.

Noise vs. Anomali: Masalah Konteks

Anomali bukan sekadar "data aneh." Ini adalah penyimpangan yang membawa informasi. Sangat penting untuk membedakan:

• Noise: Fluktuasi acak yang merupakan bagian dari rezim pasar normal.
• Drift: Pergeseran bertahap dalam kondisi pasar (misalnya, transisi dari malam bervolatilitas rendah ke pagi yang aktif).
• Anomali: Pelanggaran mendadak terhadap pola yang diharapkan.

Menentukan perbedaan antara noise yang tidak berbahaya, drift yang persisten, dan anomali berbahaya adalah tantangan utama bagi setiap detektor.

Metode Sederhana yang Memecahkan 80% Masalah

Tidak semua hal perlu diselesaikan dengan jaringan saraf. Tiga detektor dasar sudah cukup untuk sebagian besar bot trading.

Z-Score: Filter Ekstrem yang Cepat

Z-Score menunjukkan berapa banyak standar deviasi nilai saat ini menyimpang dari rata-rata bergulir. Dihitung dalam mikrodetik, bekerja pada timeframe apa pun.

Kami menggunakannya untuk tiga tugas: penyaringan volume abnormal (Z-Score > 3 — sinyal untuk melebarkan spread atau menjeda quoting), pemantauan spread (pelebaran bid-ask abnormal sering mendahului pergerakan tajam), dan funding rate futures (nilai ekstrem memperingatkan kemungkinan kaskade likuidasi).

Z-Score mengidentifikasi kejadian ekstrem dengan mengukur berapa banyak standar deviasi suatu titik dari rata-rata. Nilai yang melebihi ±3σ diperlakukan sebagai outlier di sebagian besar sistem trading.

Keterbatasan penting: pasar kripto memiliki distribusi ekor tebal. Sebuah kejadian yang menurut distribusi normal seharusnya terjadi sekali dalam satu juta tahun (6σ) terjadi setiap bulan dalam kripto. Jadi Z-Score adalah filter anomali kasar, bukan vonis akhir.

Level Shift Detector: Ketika Pasar Berganti Rezim

Kami mengambil dua jendela bergulir berurutan dan membandingkan rata-ratanya. Jika selisihnya melebihi ambang batas — level shift telah terjadi. Strategi market-making menguntungkan di pasar yang stabil dan mengalami kerugian selama pergerakan tajam. Level Shift Detector pada volume dan volatilitas memperingatkan perubahan rezim beberapa menit sebelum menjadi jelas dalam harga.

Kami menerapkannya pada beberapa metrik secara bersamaan: ukuran trade rata-rata, kedalaman order book pada 5 level pertama, jumlah trade per satuan waktu. Jika Level Shift terpicu pada setidaknya dua metrik — bot beralih ke mode defensif.

Volatility Shift Detector: Merasakan Badai

Pendekatan serupa, tetapi standar deviasi dibandingkan alih-alih rata-rata. Kenaikan volatilitas yang tajam adalah sinyal untuk meninjau ulang parameter. Pola menarik: volatilitas rendah yang abnormal sering mendahului pergerakan eksplosif. Volatility Shift Detector menangkap kedua kasus — kompresi dan ekspansi.

Detektor Level Shift dan Volatility Shift adalah kunci untuk mengidentifikasi 'Perubahan Rezim' — pergeseran struktural mendadak dalam perilaku pasar yang membutuhkan parameter trading yang berbeda.

HBOS: Analisis Multidimensi yang Cepat

Ketika Anda perlu memantau 10+ indikator secara bersamaan tanpa biaya ML yang kompleks, HBOS (Histogram-Based Outlier Selection) adalah pilihan terbaik. Algoritma ini mengasumsikan independensi fitur dan membangun histogram untuk masing-masing. Skor anomali adalah produk dari kepadatan invers di semua histogram.

HBOS jauh lebih cepat daripada metode berbasis jarak seperti LOF, membuatnya cocok untuk penyaringan frekuensi tinggi dari vektor keadaan multidimensi.

Machine Learning: Ketika Statistik Tidak Cukup

Metode dasar bekerja dengan satu indikator sekaligus. Tetapi anomali nyata sering bermanifestasi sebagai kombinasi indikator yang tidak biasa: volume normal, spread normal, tetapi volume + spread + laju perubahan harga + ketidakseimbangan order book secara bersama-sama — anomali. Di sinilah ML diperlukan.

Lanskap terstruktur metode deteksi anomali: dari algoritma unsupervised klasik hingga arsitektur deep learning.

Isolation Forest: Keseimbangan Terbaik untuk Produksi

Dari semua metode deteksi anomali ML, Isolation Forest paling cocok untuk sistem trading. Algoritma ini membangun ansambel pohon keputusan yang secara acak mempartisi ruang fitur. Titik anomali, karena "langka dan berbeda," diisolasi dalam lebih sedikit pemisahan.

Mengapa Isolation Forest? Tidak memerlukan data berlabel — pelabelan anomali di pasar kripto hampir tidak mungkin karena setiap flash crash bersifat unik. Inferensi cepat dalam milidetik membuatnya layak digunakan hampir secara real-time. Dan yang krusial untuk produksi: prediksi dapat dijelaskan melalui nilai SHAP — Anda tidak hanya tahu bahwa suatu momen anomali, tetapi memahami mengapa.

Pada data Bitcoin, Isolation Forest mendeteksi tidak hanya anomali yang jelas seperti lonjakan volatilitas ketika Tesla menolak pembayaran BTC pada 2021, tetapi juga yang halus — periode ketika pergerakan harga tidak didukung oleh volume, mengindikasikan manipulasi eksternal. Saat menganalisis spoofing, SHAP menunjukkan bahwa indikator kunci adalah kuotasi order book yang tidak seimbang dan aktivitas pembatalan yang abnormal tinggi.

Algoritma Isolation Forest bekerja dengan mempartisi ruang secara acak: outlier diisolasi dalam jauh lebih sedikit pemisahan dibandingkan titik-titik dalam kluster padat.

LOF: Pilihan Terbaik untuk Pemantauan Multi-Bursa

Local Outlier Factor menilai anomali suatu titik dengan membandingkan kepadatan lokalnya dengan kepadatan tetangganya. Sebuah penelitian (Springer, 2024) yang membandingkan LOF, Isolation Forest, dan One-Class SVM pada data cryptocurrency menemukan LOF sebagai yang paling efektif — ia menemukan anomali nyata dengan paling sedikit false positive, berkinerja stabil pada Bitcoin maupun Dogecoin.

Mengapa LOF penting untuk infrastruktur multi-bursa? Data dari bursa yang berbeda memiliki "kepadatan" yang berbeda — Binance melihat ribuan trade per detik, bursa niche melihat puluhan. Metode global seperti Z-Score akan menghasilkan false positive pada bursa niche atau melewatkan anomali pada bursa besar. LOF beradaptasi dengan konteks lokal.

LOF membandingkan kepadatan lokal suatu titik dengan tetangganya. Ini memungkinkannya menemukan outlier yang 'secara lokal' anomali bahkan jika konsisten dengan pola data global.

Keterbatasannya adalah kompleksitas kuadratik terhadap jumlah titik. Untuk data real-time tingkat tick terlalu lambat, tetapi untuk agregat menit di 100+ bursa — ideal.

Autoencoder: Analisis Order Book Mendalam

Autoencoder adalah jaringan saraf yang mengompresi data ke representasi ringkas dan merekonstruksinya. Dilatih pada data "normal," error rekonstruksi yang tinggi kemudian menandakan anomali.

Untuk analisis order book ini adalah alat paling kuat. Order book dengan 20 level bid dan 20 level ask adalah vektor 40-dimensi yang diperbarui ratusan kali per detik. LSTM Autoencoder mempertimbangkan bukan hanya keadaan saat ini tetapi dinamika — bagaimana order book berubah selama N tick terakhir. Pendekatan hybrid "LSTM Autoencoder + One-Class SVM" memisahkan kekhawatiran: jaringan saraf menangani ekstraksi fitur, ML klasik menangani pengambilan keputusan. Kekurangan utama adalah biaya komputasi: inferensi real-time memerlukan GPU.

Autoencoder mempelajari representasi 'laten' yang terkompresi dari data normal. Anomali gagal direkonstruksi secara akurat, menghasilkan skor error tinggi yang digunakan untuk deteksi.

Arsitektur Bertingkat: Menyatukan Semuanya

Tidak ada satu metode yang memecahkan semua masalah. Metode cepat melewatkan anomali yang kompleks. Metode akurat terlalu lambat untuk real-time. Solusinya adalah arsitektur bertingkat di mana setiap lapisan berikutnya menangkap apa yang terlewat oleh lapisan sebelumnya.

Arsitektur deteksi anomali multi-lapis: dari hard limit milidetik hingga analisis deep learning latar belakang.

Lapisan 1 — Fast Path (di bawah 1 ms). Z-Score pada volume, spread, dan perubahan harga. Pemeriksaan persistensi. Hard limit. Saat dipicu — jeda trading langsung. Lapisan ini melindungi dari flash crash, error API, dan manipulasi kasar. Diimplementasikan dalam loop utama bot tanpa dependensi eksternal.

Lapisan 2 — Near Real-Time (1–100 ms). Isolation Forest pada fitur gabungan. Detektor Level Shift dan Volatility Shift. Saat dipicu — pergantian mode trading, penyesuaian parameter. Berjalan di thread paralel.

Lapisan 3 — Analisis Latar Belakang (1–60 detik). LOF pada data multi-bursa. LSTM Autoencoder pada keadaan order book. Analisis residu dekomposisi musiman. Saat dipicu — peringatan, penyesuaian parameter strategi.

Lapisan 4 — Analisis Batch (per jam/harian). DBSCAN untuk deteksi wash trading. PCA untuk pemantauan korelasi lintas bursa. Pelatihan ulang model penuh. Output — laporan, pembaruan model, kalibrasi ulang ambang batas untuk lapisan sebelumnya.

Setiap lapisan beroperasi secara independen. Jika lapisan 3 mati — lapisan 1 dan 2 terus melindungi bot. Toleransi kesalahan dan degradasi yang anggun adalah properti wajib dari setiap infrastruktur trading.

Rekomendasi Praktis

Beberapa pelajaran dari produksi.

Mulai dari yang sederhana. Z-Score + Level Shift + Volatility Shift dapat diimplementasikan dalam sehari. Ini mencakup mayoritas skenario kerugian akibat kondisi pasar yang abnormal. Kluster GPU bisa menyusul kemudian.

Parameter contamination adalah hyperparameter terpenting. Dalam Isolation Forest ini mendefinisikan proporsi anomali yang diharapkan. Untuk pasar kripto kami menggunakan 0,01–0,05 tergantung pada pasangan dan bursa. Terlalu rendah — Anda melewatkan anomali nyata. Terlalu tinggi — false positive melumpuhkan trading.

Ambang batas adaptif alih-alih tetap. Pasar kripto bersifat non-stasioner. Ambang batas yang berhasil di Januari akan menghasilkan false positive di Maret. Gunakan EWMA untuk memperbarui ambang batas, atau latih ulang model secara berkala pada jendela bergulir.

Catat semua anomali. Bahkan jika Anda tidak bereaksi secara otomatis — simpan label dengan konteks. Dalam sebulan Anda akan memiliki dataset untuk melatih model supervised dan menganalisis anomali mana yang mendahului kerugian.

Uji pada insiden nyata. Bangun koleksi anomali historis: flash crash Mei 2021, kaskade likuidasi FTX, keruntuhan LUNA. Jalankan setiap detektor baru melalui skenario-skenario ini. Jika tidak menangkap insiden yang sudah diketahui — tidak berguna.

Langkah Selanjutnya

Tiga arah yang patut diperhatikan.

Model berbasis Transformer untuk order book. Penelitian terbaru menunjukkan bahwa Transformer autoencoder + OC-SVM pada data Limit Order Book secara signifikan mengungguli semua pendekatan sebelumnya untuk deteksi spoofing. Staged Sliding Window Transformer pada data frekuensi tinggi EUR/USD (315 juta rekaman) mencapai akurasi 0,93, F1 0,91, AUC-ROC 0,95 — jauh lebih baik dari Random Forest, LSTM, dan CNN.

Arsitektur Transformer dengan multi-head attention terbukti sangat mampu mengidentifikasi pola temporal yang kompleks dalam data Limit Order Book frekuensi tinggi.

GAN untuk generasi anomali sintetis. Salah satu tantangan utama adalah kurangnya data berlabel. GAN dapat menghasilkan skenario manipulasi yang realistis untuk melatih model supervised. Arsitektur sudah ada yang mencapai akurasi 94,7% dengan latensi di bawah 3 ms dan throughput 150.000 transaksi per detik.

Generative Adversarial Network (GAN) dapat digunakan untuk memperkaya dataset dengan membuat anomali sintetis yang realistis, memecahkan masalah kelangkaan label yang kritis dalam trading.

Change Point Detection (CPD). Alih-alih hanya mencari outlier, CPD berfokus pada mengidentifikasi momen tepat ketika properti statistik sinyal berubah. Ini sangat penting untuk beralih antara rezim market-making (misalnya, dari mean-reversion ke trend-following).

Change Point Detection mengidentifikasi pergeseran struktural dalam data time-series, menyoroti batas antara rezim pasar yang berbeda.

Anomali bukan fitur opsional. Ini adalah fondasi yang tanpanya algo trading menjadi perjudian. Dan semakin cepat Anda membangunnya, semakin sedikit pelajaran mahal yang perlu diajarkan pasar kepada Anda.

Referensi

1. Anomaly detection in cryptocurrency markets using Isolation Forest
2. LOF: Identifying local outliers in high dimensional space
3. Isolation Forest for Anomaly Detection (Sklearn Documentation)
4. PyOD: A Comprehensive Python Toolbox for Outlier Detection
5. Transformer-based models for Limit Order Book anomaly detection
6. Ethical Issues and Market Manipulation in Cryptocurrency

Sitasi

@software{soloviov2026anomalydetectionalgotrading,
  author = {Soloviov, Eugen},
  title = {Anomaly Detection for Trading Bot Protection: From Z-Score to Transformer},
  year = {2026},
  url = {https://marketmaker.cc/id/blog/post/anomaly-detection-algotrading},
  version = {0.1.0},
  description = {Which anomaly detection methods actually work in crypto algo trading, how to build a cascading protection architecture, and why this is the foundation without which algo trading becomes gambling.}
}