Epistemik va Aleatorik: Qaytarish Modelining Bilmedagini O'chash

Bu blogdagi har bir pozitsiya o'lchash qoida noaniqlikni bitta skalerga qisqartiradi. Kelly varians bilan bo'linadi. Conformal prediction interval kengligi bilan bo'linadi. Volatility targeting GARCH bashorati bilan bo'linadi. Uchalari to'g'ri va uchalari savdo uchun muhim bo'lgan farqni e'tiborsiz qoldiradi: shovqinli bozor bilan nomalum model o'rtasidagi farq.

Bu xavolar bir xil emas. Bozor shovqini narxlangan — siz uni ko'targaningiz uchun to'langan narsa. Modelning bilmasligi narxlanmagan, to'lanmagan va bu aynan sizning afzallik baholovingiz eng ishonchsiz holat. Ikkisini teng jazolaydigan o'lchash qoidasi stolda pul qoldiradi.

Ushbu post bu ajratishni o'chanasiz qilish haqida. Aniq ravishda:

$\sigma^2_{\text{eff}} = \sigma^2_{\text{alea}} + \lambda \cdot \sigma^2_{\text{epi}}, \qquad \lambda > 1$

Buni Kelly maxrajiga umumiy varians o'rniga qo'ying. Maqolaning qolgani, ikki komponentni qanday baholash (MC Dropout, chuqur ansambllar) va ajratish haqiqiy ma'lumotlarda qanday ko'rinadi.

Tezis: Ikki Noaniqlik Ikki Javob Talab Qiladi

"Savdo harakati" qatoridagi assimetriya butun argumentdir. Yuqori aleatorik varians — bu ma'lum bo'lgan noma'lum: siz uning uchun o'lcham belgilay olasiz, hedge qila olasiz va uni ushlab turish uchun risk premium kutishingiz mumkin. Yuqori epistemik varians — bu noma'lum noma'lum: model ekstrapolyatsiya qilmoqda, uning o'rtacha bahosi $\mu$ varians bahosi kabi shubhali va o'z parametrlaringizda xato qilishingiz bilan hech qanday premium biriktirilmagan.

Ikkisini aralashtiradigan model tanish bo'lmagan rejimlarda ortiqcha savdo qiladi (epistemik noaniqlikni e'tiborsiz qoldiradi) yoki tanish lekin shovqinli bo'lganlarda savdo qilmaydi (aleatorik noaniqlikni haddan tashqari jazolaydi). $\sigma^2_{\text{total}}$ ga qo'llanilgan standart Kelly, qaysi komponent hukmron bo'lishiga qarab ikkalasini ham qiladi.

Ajratish

Epistemik noaniqlik model parametrlari $\theta$ bo'yicha noaniqlikdan kelib chiqadi. Bitta $\theta^*$ o'rniga (maksimum ehtimollikdagi kabi), biz $p(\theta \mid \mathcal{D})$ taqsimotini saqlaymiz va integrlaymiz:

$p(y \mid x, \mathcal{D}) = \int p(y \mid x, \theta)\, p(\theta \mid \mathcal{D})\, d\theta$

$\theta$ bo'ylab integratsiyadan kelib chiqqan tarqalish epistemikdir. $\mathcal{D}$ kirish sohasini qoplaydigan darajada o'sganda qisqaradi.

Aleatorik noaniqlik ma'lumotlarni yaratuvchi jarayonning shartli shovqinidir. Neyron tarmog'ida u ikinchi chiqish boshligi tomonidan kirishga bog'liq varians chiqarish orqali modellanadi:

$p(y \mid x, \theta) = \mathcal{N}\bigl(y;\, \mu_\theta(x),\, \sigma^2_\theta(x)\bigr)$

Ushbu geteroskedastik bosh, GARCH klassik tarzda baholaydigan bir narsani baholamoqda — holatga bog'liq shartli varians, kechasi yuqori va soat cho'qqilarida past. Agar kripto valyutalarida uning empiriklarini istasangiz, kripto volatillik uchun GARCH(1,1) buni to'g'ri tarzda qamrab oladi, including why canli shartli bashorat (unconditional sample variance emas) Kelly maxrajiga tegishli. NN boshli bir xil miqdorning boshqa baholovchisi, o'rtacha bilan birgalikda fit.

GARCH sizga bera olmaydigan narsa boshqa atamadir. Bu postning qolgani shu uchun.

Allaqachon Nashr Etilgan Narsaga Nisbatan Joylashuvi

Ikki oldingi post qo'shni maydonlarni qamrab oladi va ular avval o'qishga arziydi, chunki bu post ularni qasddan takrorlamaydi:

• Xavodan xabardor pozitsiya o'lchash uchun conformal prediction sizga chekli namuna kapsama garantisiga ega interval beradi, taqsimot farazi yo'q, plus inverse-width sizing va edge-ratio no-trade filtri. Agar hamma narsangiz to'g'ri o'lchamlangan interval bo'lsa, bu kuchliroq vositadir.
• Temporal Fusion Transformers miqdorlarni to'g'ridan-to'g'ri chiqaradi va allaqachon pinball-loss miqdorlari namuna tashqarida kalibrlanmaganligi haqida ogohlantiradi.

Savdo toza. Conformal sizga kafolat beradi lekin bitta raqam — interval kengligi ajratib bo'lmaydi, shuning uchun u nima uchun kengayganini ayta olmaydi. Bayesian usullar sizga ajratish beradi lekin kafolat yo'q — MC Dropout intervallari taxminiy posterior qanchalik yaxshi bo'lsa shunchalik yaxshi. Bu maqola ajratishni sotib olish haqida; kapsama uchun ehtimol conformal usulini uning ustida saqlashingiz kerak.

Usul 1: Variatsion Chiqarish (Bayes by Backprop)

Bayesian neyron tarmog'i og'irliklar ustiga prior $p(\theta)$ qo'yadi va posteriorni $p(\theta \mid \mathcal{D}) \propto p(\mathcal{D} \mid \theta) p(\theta)$ izlaydi. Normallashtiruvchi har bir og'irlik konfiguratsiyasi bo'ylab integratsiyani talab qiladi, bu bir nechta parametrlari bor narsa uchun intractabledir.

Variatsion chiqarish intractable posteriorni boshqariladigan oila $q_\phi(\theta)$ — odatda faktorlangan Gaussian $q_\phi(\theta) = \prod_j \mathcal{N}(\theta_j; \mu_j, \sigma_j^2)$ — bilan almashtiradi va minimize qiladi:

$\text{KL}\bigl(q_\phi(\theta) \,\|\, p(\theta \mid \mathcal{D})\bigr)$

Bu noma'lum posteriorni o'z ichiga olgani sababli, biz o'rniga Evidence Lower Boundni maksimizatsiya qilamiz:

$\mathcal{L}(\phi) = \mathbb{E}_{q_\phi(\theta)}\bigl[\log p(\mathcal{D} \mid \theta)\bigr] - \text{KL}\bigl(q_\phi(\theta) \,\|\, p(\theta)\bigr)$

Birinchi atama $q_\phi$ ni ma'lumotlarni tushuntirishga itaradi; ikkinchi atama uni prior yaqinida ushlab turadi. Bayes by Backprop (Blundell et al., 2015) buni reparameterization trick bilan differentsialash qiladi: sample $\epsilon \sim \mathcal{N}(0, I)$, $\theta = \mu + \sigma \odot \epsilon$ o'rnating.

Amaliyotda VI parametrlar sonini ikki baravar oshiradi, gradient variansini oshiradi (har bir forward pass turli og'irliklardan foydalanadi) va o'rtacha maydon farazi og'irlik korelyatsiyalarini e'tiborsiz qoldiradi, bu odatda epistemik noaniqlikni pastbaholashga olib keladi. Savdo stekingizda allaqachon o'qitilgan deterministik modelga ega bo'lganingizda, quyidagi ikki arzonroq usul odatda yaxshiroq kirish nuqtasidir.

Usul 2: MC Dropout

Gal va Ghahramani (2016) dropout bilan o'qitilgan va dropout test vaqtida hali faol ravishda baholangan tarmog'ning chuqur Gaussian protsedurasida taxminiy variatsion chiqarish proseduri ekanligini ko'rsatdi. Dropout allaqachon sub tarmoqlar bo'ylab taqsimot induše qiladi; chiqarish vaqtida uni ochiq saqlash va $T$ forward pass ishga tushirish, bu yashirin posteriordan namuna oladi.

Bu blogning boshqa hech joyida yo'q. Bu yerda e'lon qilingan kod dropoutni faqat o'qitish vaqti regularizeri sifatida ishlatadi (spread modeling, TFT dropout=0.1–0.3 da). Chiqarish vaqtida uni ochiq saqlash bir satrli o'zgarish bo'lib, butunlay boshqa ma'noni anglatadi.

Bashoratli Statistika

$T$ stokastik forward pass $\{\hat{y}_t\}_{t=1}^{T}$ va pass per varyanslar $\hat{\sigma}_t^2(x)$ ishlab chiqarganda:

Bashoratli o'rtacha:

$\bar{y} = \frac{1}{T} \sum_{t=1}^T \hat{y}_t$

Epistemik (passlar o'rtasidagi kelishmovchilik):

$\sigma^2_{\text{epi}} = \frac{1}{T} \sum_{t=1}^T (\hat{y}_t - \bar{y})^2$

Aleatorik (bashorat qilingan shovqinning o'rtachasi):

$\sigma^2_{\text{alea}} = \frac{1}{T} \sum_{t=1}^T \hat{\sigma}_t^2$

Ajratish aniq umumiy varians qonuniydir: shartli o'rtachaning variansi plus shartli variansning o'rtachasi. Umumiy bashoratli varians ularning yig'indisidir.

PyTorch Amaliyoti

import torch
import torch.nn as nn
import numpy as np

class MCDropoutNet(nn.Module):
    """
    Noaniqlik baholash uchun MC Dropout bilan qaytarish bashorat tarmog'i.
    Bashoratlangan o'rtachani va log-variansni (aleatorik) chiqaradi.
    """
    def __init__(self, input_dim: int, hidden_dim: int = 128, dropout_p: float = 0.1):
        super().__init__()
        self.net = nn.Sequential(
            nn.Linear(input_dim, hidden_dim),
            nn.ReLU(),
            nn.Dropout(p=dropout_p),
            nn.Linear(hidden_dim, hidden_dim),
            nn.ReLU(),
            nn.Dropout(p=dropout_p),
        )
        self.head_mu = nn.Linear(hidden_dim, 1)        # bashorat qilingan qaytarish
        self.head_logvar = nn.Linear(hidden_dim, 1)    # log(aleatorik varians)

    def forward(self, x: torch.Tensor):
        h = self.net(x)
        return self.head_mu(h), self.head_logvar(h)


def heteroscedastic_loss(mu, log_var, target):
    """Kirishga bog'liq variansi o'rganilgan Gaussian uchun manfiy log-likelihood."""
    precision = torch.exp(-log_var)
    return torch.mean(0.5 * precision * (target - mu) ** 2 + 0.5 * log_var)


@torch.no_grad()
def mc_predict(model: MCDropoutNet, x: torch.Tensor, n_samples: int = 100):
    """
    MC Dropout chiqarishi: dropout ON saqlang, T forward pass yig'ing,
    bashoratli variansni epistemik va aleatorik qismlarga ajrating.
    """
    model.train()  # eval() EMAS -- bu dropoutni faol saqlaydigan narsa
    mus, log_vars = [], []
    for _ in range(n_samples):
        mu, log_var = model(x)
        mus.append(mu)
        log_vars.append(log_var)

    mus = torch.stack(mus)            # (T, batch, 1)
    log_vars = torch.stack(log_vars)  # (T, batch, 1)

    pred_mean = mus.mean(dim=0)
    epistemic_var = mus.var(dim=0)              # passlar bo'ylab var
    aleatoric_var = log_vars.exp().mean(dim=0)  # passlar bo'ylab E

    return {
        "mean": pred_mean.squeeze(-1),
        "epistemic_std": epistemic_var.sqrt().squeeze(-1),
        "aleatoric_std": aleatoric_var.sqrt().squeeze(-1),
        "total_std": (epistemic_var + aleatoric_var).sqrt().squeeze(-1),
    }

O'qitish geteroskedastik yo'qotish funktsiyasidan foydalanadi, bu varians boshli ma'noni beradi. O'zi-regulyatsiya qiladigan tuzilishga e'tibor bering: 0.5 * precision * (target - mu)**2 atamasi kichik variansni xohlaydi, 0.5 * log_var atamasi uni jazolaydi va muvozanat nuqtasi shartli shovqin darajasidir.

model = MCDropoutNet(input_dim=50, hidden_dim=128, dropout_p=0.1)
optimizer = torch.optim.AdamW(model.parameters(), lr=1e-3, weight_decay=1e-4)

for epoch in range(200):
    model.train()
    for x_batch, y_batch in train_loader:
        mu, log_var = model(x_batch)
        loss = heteroscedastic_loss(mu, log_var, y_batch)
        optimizer.zero_grad()
        loss.backward()
        optimizer.step()

Usulni sukutda o'ldiradigan gotcha: mc_predict ichida model.eval() chaqirish. Bu dropoutni o'chiradi, har bir pass bir xil qiymatni qaytaradi, epistemic_var aniq nolga qulab tushadi va sizing qoidangiz sukutdan aleatorik variansda oddiy Kellyga qaytadi. Xatosiz ishlamaydi. Chiqarish yo'lingizda epistemic_var > 0 assert qiling.

Forward Pass Sonini Tanlash

• $T = 30$: barqaror o'rtacha uchun oqila pastki chegara
• $T = 100$: o'rtacha va varians uchun ishlaydigan standart
• $T = 500{+}$: dum miqdorni talab qilmasangiz kamaytirilgan daromad

Usul 3: Chuqur Ansambller

Lakshminarayanan et al. (2017) turli random startlardan $M$ mustaqil tarmoqni o'qitadi va agregat qiladi. Rasmiy ravishda Bayesian bo'lmasa-da, chuqur ansambllar noaniqlik kalibrlash benchmarklarida printsipialroq usullardan doimiy yaxshiroq ishlashi.

$p(y \mid x) \approx \frac{1}{M} \sum_{m=1}^M p(y \mid x, \theta_m^*)$

A'zolar o'rtasidagi kelishmovchilik epistemik baholashdir. Ansambllar bu blogning boshqa joylarida agregatsiya qurilmalari sifatida paydo bo'ladi — anomiya aniqlash, HMM rejim aniqlash, conformal'ning EnbPI block bootstrap — lekin hech qachon a'zolararo tarqalish orqali noaniqlik baholovchi sifatida emas. Foydalanish shu yerda.

Ansambll Amaliyoti

Xilma-xillik mustaqil o'qitishdan keladi, $M$ ob'ektni qurishdan emas. O'qitilmagan yoki bir xil o'qitilgan a'zolarning ansambli ham shovqin ham nol epistemik varians qaytaradi:

class DeepEnsemble:
    def __init__(self, input_dim: int, n_models: int = 5, hidden_dim: int = 128):
        self.models = []
        for seed in range(n_models):
            torch.manual_seed(seed)          # har bir a'zo uchun turli boshlang'ich
            self.models.append(
                MCDropoutNet(input_dim, hidden_dim, dropout_p=0.0)
            )

    def fit(self, train_loader, epochs: int = 200, lr: float = 1e-3):
        """Har bir a'zo mustaqil ravishda o'qitiladi. Xilma-xillik shundan keladi
        -- turli start, turli aralash tartibi. Buni o'tkazib yuborish
        epistemic_var == 0 (bir xil a'zolar) yoki sof shovqin (o'qitilmagan) beradi."""
        for seed, model in enumerate(self.models):
            torch.manual_seed(1000 + seed)   # turli aralash/dropout oqimi
            opt = torch.optim.AdamW(model.parameters(), lr=lr, weight_decay=1e-4)
            model.train()
            for _ in range(epochs):
                for x_batch, y_batch in train_loader:
                    mu, log_var = model(x_batch)
                    loss = heteroscedastic_loss(mu, log_var, y_batch)
                    opt.zero_grad()
                    loss.backward()
                    opt.step()
        return self

    @torch.no_grad()
    def predict(self, x: torch.Tensor):
        mus, variances = [], []
        for model in self.models:
            model.eval()                     # bu yerda to'g'ri: dropout sampling yo'q
            mu, log_var = model(x)
            mus.append(mu.squeeze(-1))
            variances.append(log_var.exp().squeeze(-1))

        all_mus = torch.stack(mus)
        all_vars = torch.stack(variances)

        epistemic_var = all_mus.var(dim=0)   # a'zolar ORAQASI tarqalish
        aleatoric_var = all_vars.mean(dim=0)

        return {
            "mean": all_mus.mean(dim=0),
            "epistemic_std": epistemic_var.sqrt(),
            "aleatoric_std": aleatoric_var.sqrt(),
            "total_std": (epistemic_var + aleatoric_var).sqrt(),
        }

model.eval() ning DeepEnsemble.predict ichida to'g'ri va mc_predict ichida noto'g'ri ekanligiga e'tibor bering. Stokastiklik manbasi farq qiladi: ansambllar mustaqil o'qitishdan oladi, MC Dropout canli dropout masklaridan oladi.

Savdolar: MC Dropout vs Chuqur Ansambllar

Pragmatik gibrid: kichik ansamb ($M = 3{-}5$) o'qing, bu yerda har bir a'zo shuningdek MC Dropout dan foydalanadi, ham inter-model kelishmovchilikni ham intra-model stokastiklikni qamrab oladi.

Mukofot: Assimetrik Sizing

Endi haqiqiy hissa. Gaussian Kelly $f^* = \mu / \sigma^2$; derivatsiya, o'sish parabolasi, drawdon ehtimollik jadvali va fractional to'liq Kelly o'rniga ishlatishning to'rtta sababi — hammasi Strategiyalar uchun Kelly Mezon'da va bu yerda takrorlanmaydi. $f^* = \mu / \sigma^2$ ni quarter-Kelly fraction sifatida berilgan deb oling.

O'zgarish maxrajda. Umumiy bashoratli varians o'rniga:

$\sigma^2_{\text{eff}} = \sigma^2_{\text{alea}} + \lambda \cdot \sigma^2_{\text{epi}}, \qquad \lambda > 1$

$\lambda > 1$ uchun argument: aleatorik varians bu bozor shovqini, u narxlangan va uni ko'tarish strategiya qiladigan narsadir. Epistemik varians — sizning bilmasligingiz — unga hech qanday premium yo'q va undan ham yomoni, u $\mu$ baholashingiz noto'g'ri bo'lishi bilan korrelyatsiyada. $\sigma_{\text{epi}}$ katta bo'lganda, Kelly'nin numeratori maxraj bilan bir vaqtda ishonchsiz, shuning uchun sizing xatasi komponentlashadi. Uni bozor shovqiniga nisbatan superlinear ravishda jazolash, buning to'g'ridan-to'g'ri ifodasidir.

def uncertainty_adjusted_position_size(
    pred_mean: float,
    epistemic_std: float,
    aleatoric_std: float,
    max_position: float = 1.0,
    lam: float = 2.0,                   # epistemik jazov; validation'da sozlang
    max_epi_ratio: float = 0.5,         # bu epi/alea nisbatidan yuqorida qoching
    base_kelly_fraction: float = 0.25,
) -> float:
    """Epistemik varians aleatorikdan qattiqroq jazolangan Kelly sizing."""
    effective_var = aleatoric_std ** 2 + lam * epistemic_std ** 2
    if effective_var < 1e-10:
        return 0.0

    position = (pred_mean / effective_var) * base_kelly_fraction

    epi_ratio = epistemic_std / (aleatoric_std + 1e-8)
    if epi_ratio > max_epi_ratio:
        position *= max(0.0, 1.0 - epi_ratio)

    return float(np.clip(position, -max_position, max_position))

Darvoza eslatmaga loyiqdir. Ishonch chegarasining ostidagi pozitsiyalarni nolga olish bu yerda yangi emas — conformal maqolasi umumiy no-trade filtrini $e_t = |\hat{\mu}| / w_t$ va min_edge chegarasi sifatida belgilaydi va kodlaydi, including how to pick the threshold and the geometric reading of an interval straddling zero. Bu machinery uchun conformal prediction ga qarang. Yangi narsa maxraj: $\sigma_{\text{epi}} / \sigma_{\text{alea}}$ ustidagi darvoza xususan model o'z parametrlarida bozordan ko'ra ko'proq chigallashganda ishga tushadi — umumiy noaniqlik gating'i aniqla olmaydigan holat, chunki tinch lekin tanish bo'lmagan rejim past umumiy variansga va yomon epistemik nisbatga ega bo'lishi mumkin.

Kalibrlash: Buni Topshiring

Noaniqlik bahosi faqat kalibrlangan bo'lganda foydalidir: nominal %95 intervali ~%95 vaqt haqiqatni o'z ichiga olishi kerak. Bu yega o'z Gaussian-quantile reliability tekshiruvingizni qilmang — qalin dumli qaytarish residualsidagi parametrik interval, aynan conformal prediction mavjud bo'lishdan qochish uchun mo'ljallangan muvaffaqiyatsizlik rejimi va ortida chekli namuna kafolati bilan ishlaydigan evaluate() jo'natadi. TFT postu quantile boshlar uchun bir xil nuqtani yasaydi.

Post-hoc rescaling ($\tilde{\sigma} = \alpha \sigma + \beta$ validation setda fit) arzon tuzatma va Adaptive Conformal Inference ning kuchsiz kuzeni, bu statik rescale o'rniga uzoq muddatli kapsama bound bilan online miscoverage level $\alpha_t$ saqlaydi. ACI kuchliroq tanlov; lineer rescalingni afzal ko'rishning yagona sababi, u epistemik/aleatorik nisbatini saqlab qoladi, ACI'nin bitta kengligi esa emas.

Nashr Qilinishidan Oldin O'lchanishi Kerak Narsalar

Yuqoridagi usullar o'rnatilgan. Ajratishning savdoda bir narsa sotib olgani iddia emas va bu blog argumentga asoslangan sizing qoidalarni nashr qilmaydi. Bar:

1. Dataset va maqsad. Asbobni, bar o'lchamini, aniq sana diapazonini, xususiyatlar to'plamini va bashorat maqsadini nomlang.

2. Ajratish o'zi. Umumiy bashoratli variansning necha qismi epistemik va aleatorik ekanligi va bu nisbat nomlangan tinch oyna va nomlangan volatile oyna o'rtasida qanday harakatlanishi. Bu pul jadvali va hali yo'q. Falsify qilishga arziydigan gipoteza: nisbat realized volatilitedan olding pike chunadi, chunki tanishmaslik turbulentlikdan oldin keladi.

3. Coverage vs conformal. MC Dropout intervallarining o'lchangan out-of-sample kapsamasi nominalga qarshi, bir xil ma'lumotlarda e'lon qilingan maqolaning split-conformal intervallari bilan solishtirilganda. Bu head-to-head o'zi yangi natija va ikki post o'rtasidagi tabii ko'prik.

4. $\lambda$ bir narsa sotib oladimi? Validation da epistemik jazosini sweep qiling va PnL va max drawdownni $\lambda = 1$ baseline ga qarshi xabar bering. Hech narsa sotib olmasa, shunday deying — The Honest Negative bu natija uchun shablon va nashr etiladigan natijadir.

5. Chiqarish xaraji. Har bir $T$ da mo'ljaldangan apparatda o'lchangan.

Bu yerdagi har qanday baholash walk-forward optimization intizomi ostida ishlaydi — $\lambda$ giperparametrdir va to'liq namunada sozlangan $\lambda$ natija emas.

Produksiya Uchun Amaliy Maslahatlar

1. Priorni isitiring. Variatsion chiqarish bilan, variatsion o'rtachani oldindan o'qitilgan deterministik tarmoqdan boshlang'ichlang, randomdan emas. Odatda yaqinlashish vaqtini yarmiga qisqartiradi.

2. Varians qulashini kuzating. O'rganilgan varianslar $\sigma_j$ deyarli nolga surib ketishi mumkin, BNNni sukutdan deterministik tarmoqga qaytaradi. O'qitish paytida o'rtacha $\sigma_j$ ni kuzating; kerak bo'lsa KL annealing qo'shing.

3. Sobit validation set ustida emas, rolling asosda qayta kalibrlang. Bozolar statsionar emas va bir marta fit kalibrlash vayron bo'ladi. Ya walk-forward intizomi ostida rolling window ustida qayta o'ting yoki ACI model eskiriligini online absorbe qilsin — conformal post retraining frequency trade-off'ini to'g'ridan-to'g'ri qamrab oladi.

4. Ansambll xilma-xilligi muhim ahamiyatga ega. Turli xil urug'lar, turli aralashlar, ixtiyoriy ravishda har bir a'zo uchun turli giperparametrlar. Boshlang'ich xilma-xilligi ansambll sifatining boshki drayveri, shuning uchun yuqoridagi fit() tsikli optional emas.

5. Ajratishni loglang, faqat total emas. Ikkala komponentni ham realized outcomes bilan birga saqlang. Bunsiz, ko'rikdagi yagona savolga javob bera olmaysiz: sizer pozitsiyani qisqartirganda, bu bozor shovqinli tufayli yoki model yo'qolgan tufayli — va u to'g'ri edimi?

6. Noaniqlik xususiyat sifatida. Rolling epistemik statistikalari o'zlari drawdownlar uchun bashoratli bo'lishi mumkin. Ehtimol, o'lchanmagan va alohida postga worth.

Cheklovlar va Vahiyankor Ogohliklar

• Taxminiy posteriors hali ham taxminiy. MC Dropout va VI haqiqiy posterior'ning cheklangan ko'rinishini beradi. Hech narsadan yaxshi, ground truth emas va ikkalasiga ham kapsama kafolati biriktirilmagan.
• Kalibrlash aynan kerak bo'lganda buziladi. Haqiqatan yangi rejimda model hali ham miscalibrated bo'lishi mumkin — u faqat determinitikdan kamroq miscalibrated bo'lish tendensiyasida. Out-of-distribution inputdan kelgan noaniqlik bahoslari o'zlari out-of-distribution outputlardir.
• Aleatorik varians epistemik signallarni yutishi mumkin. Geteroskedastik bosh etarlicha moslashqon bo'lsa, model noaniqlikni ma'lumot shovqini sifatida tushuntirni o'rganadi, $\sigma_{\text{epi}}$ ni nolga qulab tushiradi va butun ajratishni sukutda yengadi. Bu postdagi eng muhim muvaffaqiyatsizlik rejimi va u o'zini e'lon qilmaydi. Rejimlar bo'ylab nisbatni kuzating; hech qachon harakatlanmaydigan nisbat, buzilgan ajratish, barqaror bozor emas.
• $\lambda$ erkin parametr. Sizing qoidasiga sozlanishi mumkin bo'lgan tugmachani kiritish, bu qanday qilib overfit sizing qoidalari qurilishidir. Unga walk-forward asosi kerak yoki u 1 da belgilanishi kerak.

Xulosa

Conformal prediction allaqachon bu blogga kapsama garantisi bo'lgan interval kengliklarini va Kelly allaqachon unga sizing qoidasini berdi. Ikkalasi ham nima uchun interval kengligiga javob bermaydi. Bashoratli variansni epistemik va aleatorik qismlarga ajratish bunga javob beradi va javob total qilolmaydigan tarzda amaliy qilinadi: bozor shovqini to'langan risk, model bilmasligi emas, va sizing maxraj bu gapni aytishi kerak.

MC Dropout ajratishni deyarli bepul qiladi — chiqarishda bitta satr (model.train()) har qanday dropout tarmog'ini taxminiy Bayesianga aylantiradi. Chuqur ansambllar $M$x narhida va yaxshi kalibrlangan. Ikkalasi ham bir xil assimetrik maxraj $\sigma^2_{\text{alea}} + \lambda \sigma^2_{\text{epi}}$ ni ozgalantiradi.

$\lambda > 1$ haqiqatan to'laydimi yoki yo'qmi, bu loyiha hali javob bermagan empirik savol. Yuqorida sanab o'tilgan o'lchashlar nashr qilish narhi.

References:

• Blundell, C., Cornebise, J., Kavukcuoglu, K., & Wierstra, D. (2015). Weight Uncertainty in Neural Networks. ICML.
• Gal, Y. & Ghahramani, Z. (2016). Dropout as a Bayesian Approximation: Representing Model Uncertainty in Deep Learning. ICML.
• Lakshminarayanan, B., Pritzel, A., & Blundell, C. (2017). Simple and Scalable Predictive Uncertainty Estimation using Deep Ensembles. NeurIPS.
• Kendall, A. & Gal, Y. (2017). What Uncertainties Do We Need in Bayesian Deep Learning for Computer Vision? NeurIPS.
• Gibbs, I. & Candes, E. (2021). Adaptive Conformal Inference Under Distribution Shift. NeurIPS.
• Kelly, J. L. (1956). A New Interpretation of Information Rate. Bell System Technical Journal.