The Other Way a Regression Lies: Endogeneity, 2SLS, and the Gamma Calibration Problem

Es gibt zwei strukturell unterschiedliche Möglichkeiten, wie eine Regression Sie anlügen kann, und dieser Blog hat bisher nur eine davon angegriffen.

Der erste Grund ist die Selektionsverzerrung bei der Suche: Sie haben zehntausend Backtests durchgeführt, die besten behalten, und die Zahl, die Sie betrachten, ist eher das Maximum einer Rauschverteilung als eines Effekts. Das ist das Thema der deflationierten Sharpe-Ratio und ihres Schlusssteins ehrlich negativ. Die Lösung besteht darin, die Suche zu bepreisen.

Der zweite Grund ist eine Verzerrung im Koeffizienten selbst, bei einer einzelnen Regression, die Sie nie durchsucht haben. Wenn der Regressor mit dem Fehlerterm korreliert, ist OLS verzerrt und inkonsistent – ​​und im Gegensatz zum Stichprobenrauschen nimmt dieses nicht mit der Stichprobengröße ab. Mehr Daten machen die falsche Zahl enger. Kein Bootstrapping, Walk-Forward oder Deflation ändert daran etwas, denn keine dieser Methoden stellt die Identifizierung in Frage, sondern nur die Auswahl.

In diesem Artikel geht es um den zweiten Fehler, und es handelt sich hier nicht um ein abstraktes Problem. Der Artikel zur Almgren-Chriss-Kalibrierung passt zu Permanent Impact $\gamma$ durch Regression von 5-Minuten-Mittelpreisänderungen auf den Nettoabnehmerfluss erhält man eine $R^2$ von ein paar Prozent und einem Koeffizienten, der sich zwischen den Tagen um das Zwei- bis Fünffache bewegt, und nennt Endogenität als ersten strukturellen Grund: „Der Fluss reagiert auf den Preis genauso wie der Preis auf den Fluss. Momentum-Händler kaufen, weil der Preis gestiegen ist; ein naives OLS der Renditen auf den Fluss erfasst ihre Reaktion und führt sie auf die Auswirkung zurück.“ Es nennt auch die saubere Lösung – Ihre eigenen, konstruktionsbedingt exogenen Füllungen.

Dabei handelt es sich um ein Instrumentenvariablenproblem mit einem benannten Instrument und bereits internen Daten. Nachfolgend finden Sie den Schätzer, die Diagnose und das Experiment.

Endogenität in einem Absatz

OLS schätzt die Ursache $\beta_1$ In $Y_i = \beta_0 + \beta_1 X_i + \varepsilon_i$ nur unter $\mathbb{E}[\varepsilon_i \mid X_i] = 0$. Drei Dinge machen es kaputt. Bias aufgrund weggelassener Variablen: if $W$ fährt beides $X$ Und $Y$ und ist unbeobachtet, es lebt im Irrtum, $\varepsilon_i = \gamma W_i + u_i$, Und $\text{Cov}(X_i, W_i) \neq 0$ Kräfte $\text{Cov}(X_i, \varepsilon_i) \neq 0$ – In der Mikrostruktur treibt die unbeobachtete Ankunft von Informationen Volumen und Volatilität zusammen. Messfehler: mit einem verrauschten Proxy $X_i = X_i^* + \nu_i$, $\text{plim } \hat{\beta}_1^{\text{OLS}} = \beta_1 \cdot \sigma_{X^*}^2 / (\sigma_{X^*}^2 + \sigma_\nu^2)$, immer gegen Null abgeschwächt – der saldierte AggTrades-Fluss ist ein Stellvertreter für den echten Signed-Order-Fluss in einem fragmentierten Markt, und der Teil, den Sie nie sehen, ist der Messfehler. Gleichzeitigkeit: bereits in schärferer und konkreterer Form in der Almgren-Chriss-Auswirkungskalibrierung dargelegt, was das motivierende Problem für alles Nachfolgende ist.

Die IV-Lösung

Ein Instrument $Z$ muss zwei Bedingungen erfüllen:

1. Relevanz: $\text{Cov}(Z_i, X_i) \neq 0$. Testbar, und Sie müssen es testen.
2. Ausschluss: $\text{Cov}(Z_i, \varepsilon_i) = 0$ — $Z$ wirkt $Y$ nur durch $X$. Nicht testbar. Immer. Es handelt sich um ein ökonomisches Argument, nicht um eine Statistik.

Für ein Instrument und einen endogenen Regressor ist der Schätzer ein Verhältnis zweier Effekte in reduzierter Form (der Wald-Schätzer):

Bei Steuerungen und mehreren Instrumenten verwenden Sie 2SLS. Stufe 1: Regression der endogenen Variablen auf Instrumenten und Kontrollen, $X_i = \pi_0 + \boldsymbol{\pi}_Z' \mathbf{Z}_i + \boldsymbol{\pi}_C' \mathbf{C}_i + v_i$und behalten Sie die angepassten Werte bei $\hat{X}_i$ – Aufgrund ihrer Konstruktion enthalten sie nur instrumentengesteuerte, exogene Variationen. Stufe 2: Laufen $Y_i = \beta_0 + \beta_1 \hat{X}_i + \boldsymbol{\beta}_C' \mathbf{C}_i + \varepsilon_i$. In Matrixform, mit $\mathbf{P}_Z = \mathbf{Z}(\mathbf{Z}'\mathbf{Z})^{-1}\mathbf{Z}'$:

Die Falle, die jeden fängt, der dies per Hand würfelt: Wenn Sie buchstäblich zwei laufen lassen lstsq Anrufe, Ihre Standardfehler der Stufe 2 sind falsch. $\hat{X}_i$ ist ein generierter Regressor und die Restvarianz muss aus dem Original berechnet werden $X$, nicht das eingebaute. Naive zweistufige Standardfehler sind zu klein, also Ihr $t$-Statistiken sind zu groß und Sie werden zu viel ablehnen. Verwenden Sie eine echte IV-Implementierung:

from linearmodels.iv import IV2SLS
import pandas as pd

def iv_regression(df, dep_var, endog_var, instruments, controls=None):
    """2SLS with correct generated-regressor standard errors."""
    y = df[dep_var]
    endog = df[[endog_var]]
    instr = df[instruments]

    const = pd.Series(1, index=df.index, name="const")
    exog = pd.concat([const, df[controls]], axis=1) if controls else const

    res = IV2SLS(dependent=y, exog=exog, endog=endog,
                 instruments=instr).fit(cov_type="robust")
    print(res.summary)
    return res

Das Experiment: OLS-Gamma versus 2SLS-Gamma

Die getestete Regression ist die Permanent-Impact-Anpassung aus dem Almgren-Chriss-Artikel:

$Q_{\text{net}}$ ist nach dem obigen Gleichzeitigkeitsargument endogen. Das Instrument sind Ihre eigenen Ausführungen im Fenster: Ihre Maker-Ausfüllungen werden durch Ihren eigenen Angebotsplan und Ihre Bestandspolitik ausgelöst, nicht durch die Preisentwicklung des Marktes, sodass sie eine Quelle für Auftragsflussschwankungen sind, die plausibel nicht mit der Momentum-Reaktionskomponente des Fehlers korrelieren. Die Ausschlussbeschränkung – dass sich Ihre Füllungen nur durch ihren Beitrag zum Nettofluss in der Mitte bewegen – ist die Annahme, über die man streiten kann, und sie ist genau dann am schwächsten, wenn Ihr Zitat selbst signalgesteuert ist. Wenn Ihre Kurse auf einer kurzfristigen Preisvorhersage beruhen, ist das Instrument verunreinigt und dieser Entwurf schlägt fehl. Füllungen aus einer reinen Bestandsverwaltungs- oder Spread-Capture-Richtlinie sind der klare Fall.

Die Fülldaten stammen aus dem TCA-Datensatz, der in Implementierungsdefizit und DIY-TCA beschrieben wird – demselben Protokoll, das die passende Stichprobe für Slippage-Kurven aus Ihren eigenen Füllungen liefert. Kontrollen: verzögert $\Delta S$ und erkannte die Volatilität im Fenster.

ols  = IV2SLS(dependent=df.dS, exog=df[["const", "dS_lag", "rv"]],
              endog=None, instruments=None).fit(cov_type="robust")
tsls = iv_regression(df, "dS", "q_net", ["q_own"], ["dS_lag", "rv"])

Ob sich das gelohnt hat, entscheiden vier Zahlen: die OLS $\gamma$, der 2SLS $\gamma$, die erste Stufe $F$und die Lücke zwischen den beiden Koeffizienten – das ist der Anteil der OLS-Schätzung, der eher eine Impulsreaktion als eine Auswirkung war.

Wenn die erste Stufe $F$ unter 10 zurückfällt, ist das Ergebnis: Die eigenen Füllungen sind ein zu kleiner Bruchteil des Nettoflusses bei 5-Minuten-Auflösung, um identifiziert zu werden $\gamma$, und der ehrliche Beitrag ist ein Negativ im Stil von dem ehrlichen Negativ. Ein schwaches Instrument-Negativ ist ein echter Befund – es zeigt Ihnen, dass die Endogenität in der Gamma-Anpassung bei dieser Stichprobengröße und diesem Horizont nicht korrigierbar ist und dass die Kostenschätzungen vor dem Handel auf dem OLS basieren $\gamma$ tragen eine unauflösbare Aufwärtstendenz.

Diagnose

Erste Stufe F (schwache Instrumente). Staiger-Stock-Faustregel: $F > 10$. Die kritischen Stock-Yogo-Werte für einen endogenen Regressor sind strenger – für 10 % der maximalen IV-Größe, $F > 16.38$ mit einem Instrument, 19,93 mit zwei, 22,30 mit drei; für 15 % Größe 8,96 / 11,59 / 12,83; für 20 %, 6,66 / 8,75 / 9,54.

Durbin-Wu-Hausman (ist IV überhaupt erforderlich). Wenn OLS konsistent ist, ist es auch effizienter, also testen Sie es, bevor Sie wechseln. Die Residual-Augmentation-Form ist die praktische: Stufe 1 ausführen, behalten $\hat{v}_i = X_i - \hat{X}_i$, und führen Sie dann die OLS-Strukturregression mit aus $\hat{v}_i$ als Regressor hinzugefügt. Ein signifikanter Koeffizient auf $\hat{v}_i$ ist ein Beweis für Endogenität.

def durbin_wu_hausman(df, dep, endog, instruments, controls):
    """Augmented-regression form of the DWH endogeneity test."""
    import statsmodels.api as sm
    X1 = sm.add_constant(df[instruments + controls])
    v_hat = df[endog] - sm.OLS(df[endog], X1).fit().fittedvalues
    X2 = sm.add_constant(df[[endog] + controls].assign(v_hat=v_hat))
    res = sm.OLS(df[dep], X2).fit(cov_type="HC1")
    return res.tvalues["v_hat"], res.pvalues["v_hat"]

Sargan-Hansen (Überidentifizierung). Mit $q > p$ Instrumente, mit denen Sie die gemeinsame Gültigkeit testen können: $J = n \cdot R^2_{\hat{\varepsilon} \sim \mathbf{Z}} \sim \chi^2(q - p)$, wo die $R^2$ ergibt sich aus der Regression der 2SLS-Residuen aller Instrumente und exogenen Kontrollen. Der Vorbehalt ist wichtiger als die Statistik: Sargan erkennt nur Instrumente, die auf unterschiedliche Weise ungültig sind. Wenn jedes Instrument mit derselben ausgelassenen Variablen korreliert ist, besteht der Test sauber und sagt Ihnen nichts.

Instrumente, die in der Krypto-Mikrostruktur existieren

Die ganze Schwierigkeit besteht darin, ein gültiges Instrument zu finden, und die Eigenkapital-Unternehmensfinanzierungs-Bereitschaften (Analystenberichterstattung, Steuerschirme, unerwarteter Cashflow) sind hier wirkungslos. Tatsächlich gelten zwei Klassen:

Fallstricke

Schwache Instrumente versagen nicht lautstark. Bei einer schwachen ersten Stufe ist 2SLS in endlichen Stichproben ungefähr in Richtung OLS voreingenommen

Bei $F = 5$ Sie behalten 25 % des OLS-Bias bei, während Sie eine „kausale“ Schätzung melden. Die Abhilfemaßnahmen sind LIML, das ein besseres Verhalten bei endlichen Stichproben aufweist, oder der Anderson-Rubin-Test, der unabhängig von der Instrumentenstärke gültig ist.

Viele Instrumente sind voreingenommen. $\text{Bias}_{2\text{SLS}} \approx (q/n) \cdot \text{Bias}_{\text{OLS}}$. Wirf Verzögerungen von allem hinein $\mathbf{Z}$ um die erste Stufe anzukurbeln $F$ leitet den Kostenvoranschlag direkt an OLS zurück. Wenn $q/n$ nicht vernachlässigbar ist, verwenden Sie LIML, Jackknife IV (JIVE) oder eine regulierte erste Stufe.

Die Ausschlussbeschränkung kann nicht getestet werden. Nicht von Sargan, von nichts. Es wird mit Domänenbegründung verteidigt, und die ehrliche Form dieser Verteidigung ist eine Sensitivitätsanalyse: Wie groß wäre ein Verstoß, um die Schlussfolgerung zunichte zu machen?

Imbissbuden

• Die Deflation behebt die Verzerrung durch die Suche. Es trägt nicht zur Verzerrung des Koeffizienten bei. Es handelt sich um unterschiedliche Fehler und sie benötigen unterschiedliche Werkzeuge.
• Der Endogenitätsbias verschwindet nicht mit der Stichprobengröße. Ein enger, gut angelegter und durch Walk-Forward validierter Koeffizient kann immer noch systematisch falsch sein.
• Die Gamma-Regression in der Almgren-Chriss-Kalibrierung ist eine Live-Inhouse-Instanz mit einem benannten Instrument (eigene Füllungen) und den Daten, die bereits von der TCA-Pipeline protokolliert wurden.
• Melden Sie die erste Stufe $F$ vor dem 2SLS-Koeffizienten. Unter 10 ist der Koeffizient kein Beweis, sondern ein veröffentlichungsfähiges Ergebnis.