У этого термина существуют и другие значения, см.
Дельта-метод .
Дельта-метод (в статистике ) — вероятностное распределение функции от асимптотически нормальной статистической оценки при известной асимптотической дисперсии этой оценки.
Одномерный дельта-метод
Хотя дельта-метод легко обобщается до многомерного случая, аккуратное обоснование этой техники проще продемонстрировать в одномерной постановке задачи. Грубо говоря, если существует последовательность случайных величин Xn , удовлетворяющая:
n
[
X
n
− − -->
θ θ -->
]
→
D
N
(
0
,
σ σ -->
2
)
{\displaystyle {{\sqrt {n}}[X_{n}-\theta ]\,{\xrightarrow {D}}\,{\mathcal {N}}(0,\sigma ^{2})}}
где θ и σ 2 - конечные константы, а
→
D
{\displaystyle {\xrightarrow {D}}}
обозначает сходимость по распределению , то верно:
n
[
g
(
X
n
)
− − -->
g
(
θ θ -->
)
]
→
D
N
(
0
,
σ σ -->
2
[
g
′
(
θ θ -->
)
]
2
)
{\displaystyle {{\sqrt {n}}[g(X_{n})-g(\theta )]\,{\xrightarrow {D}}\,{\mathcal {N}}(0,\sigma ^{2}[g'(\theta )]^{2})}}
для любой функции g, такой, что g′ (θ ) существует, принимает ненулевые значения, и полиномиально ограничена случайной величиной[ 1] .
Доказательство в одномерном случае
Демонстрация этого результата довольно очевидна в предположении, что g′ (θ ) непрерывна .
По формуле Лагранжа :
g
(
X
n
)
=
g
(
θ θ -->
)
+
g
′
(
θ θ -->
~ ~ -->
)
(
X
n
− − -->
θ θ -->
)
,
{\displaystyle g(X_{n})=g(\theta )+g'({\tilde {\theta }})(X_{n}-\theta ),}
где
θ θ -->
~ ~ -->
{\displaystyle {\tilde {\theta }}}
лежит между Xn и θ .
Поскольку
X
n
→
P
θ θ -->
{\displaystyle X_{n}\,{\xrightarrow {P}}\,\theta }
и
X
n
<
θ θ -->
~ ~ -->
<
θ θ -->
{\displaystyle X_{n}<{\tilde {\theta }}<\theta }
, то
θ θ -->
~ ~ -->
→
P
θ θ -->
{\displaystyle {\tilde {\theta }}\,{\xrightarrow {P}}\,\theta }
, и поскольку g′ (θ ) непрерывна, применение теоремы о непрерывном отображении даёт:
g
′
(
θ θ -->
~ ~ -->
)
→
P
g
′
(
θ θ -->
)
,
{\displaystyle g'({\tilde {\theta }})\,{\xrightarrow {P}}\,g'(\theta ),}
где
→
P
{\displaystyle {\xrightarrow {P}}}
обозначает сходимость по вероятности .
Перестановка слагаемых и умножение на
n
{\displaystyle {\sqrt {n}}}
даёт
n
[
g
(
X
n
)
− − -->
g
(
θ θ -->
)
]
=
g
′
(
θ θ -->
~ ~ -->
)
n
[
X
n
− − -->
θ θ -->
]
.
{\displaystyle {\sqrt {n}}[g(X_{n})-g(\theta )]=g'\left({\tilde {\theta }}\right){\sqrt {n}}[X_{n}-\theta ].}
Так как
n
[
X
n
− − -->
θ θ -->
]
→
D
N
(
0
,
σ σ -->
2
)
{\displaystyle {{\sqrt {n}}[X_{n}-\theta ]{\xrightarrow {D}}{\mathcal {N}}(0,\sigma ^{2})}}
по предположению, то применение теоремы Слуцкого даёт
n
[
g
(
X
n
)
− − -->
g
(
θ θ -->
)
]
→
D
N
(
0
,
σ σ -->
2
[
g
′
(
θ θ -->
)
]
2
)
.
{\displaystyle {{\sqrt {n}}[g(X_{n})-g(\theta )]{\xrightarrow {D}}{\mathcal {N}}(0,\sigma ^{2}[g'(\theta )]^{2})}.}
Это завершает доказательство.
Доказательство с явным порядком приближения
Как вариант, можно добавить ещё один шаг в конце, чтобы выразить степень приближения.
n
[
g
(
X
n
)
− − -->
g
(
θ θ -->
)
]
=
g
′
(
θ θ -->
~ ~ -->
)
n
[
X
n
− − -->
θ θ -->
]
=
n
[
X
n
− − -->
θ θ -->
]
[
g
′
(
θ θ -->
~ ~ -->
)
+
g
′
(
θ θ -->
)
− − -->
g
′
(
θ θ -->
)
]
=
n
[
X
n
− − -->
θ θ -->
]
[
g
′
(
θ θ -->
)
]
+
n
[
X
n
− − -->
θ θ -->
]
[
g
′
(
θ θ -->
~ ~ -->
)
− − -->
g
′
(
θ θ -->
)
]
=
n
[
X
n
− − -->
θ θ -->
]
[
g
′
(
θ θ -->
)
]
+
O
p
(
1
)
⋅ ⋅ -->
o
p
(
1
)
=
n
[
X
n
− − -->
θ θ -->
]
[
g
′
(
θ θ -->
)
]
+
o
p
(
1
)
{\displaystyle {\begin{aligned}{\sqrt {n}}[g(X_{n})-g(\theta )]&=g'\left({\tilde {\theta }}\right){\sqrt {n}}[X_{n}-\theta ]={\sqrt {n}}[X_{n}-\theta ]\left[g'({\tilde {\theta }})+g'(\theta )-g'(\theta )\right]\\&={\sqrt {n}}[X_{n}-\theta ]\left[g'(\theta )\right]+{\sqrt {n}}[X_{n}-\theta ]\left[g'({\tilde {\theta }})-g'(\theta )\right]\\&={\sqrt {n}}[X_{n}-\theta ]\left[g'(\theta )\right]+O_{p}(1)\cdot o_{p}(1)\\&={\sqrt {n}}[X_{n}-\theta ]\left[g'(\theta )\right]+o_{p}(1)\end{aligned}}}
Это говорит о том, что ошибка аппроксимации сходится к 0 по вероятности.
Многомерный дельта-метод
По определению, состоятельная оценка B сходится по вероятности к своему истинному значению β , и зачастую можно применить центральную предельную теорему , чтобы получить асимптотически нормальную оценку :
n
(
B
− − -->
β β -->
)
→
D
N
(
0
,
Σ Σ -->
)
,
{\displaystyle {\sqrt {n}}\left(B-\beta \right)\,{\xrightarrow {D}}\,N\left(0,\Sigma \right),}
где n -- число наблюдений и Σ -- (симметричная , положительно определённая ) ковариационная матрица . Предположим, мы хотим оценить дисперсию скалярной функции h от оценки B . Возьмём первых два члена ряда Тейлора и используя векторную нотацию градиента , мы можем оценить h(B) как
h
(
B
)
≈ ≈ -->
h
(
β β -->
)
+
∇ ∇ -->
h
(
β β -->
)
T
⋅ ⋅ -->
(
B
− − -->
β β -->
)
{\displaystyle h(B)\approx h(\beta )+\nabla h(\beta )^{T}\cdot (B-\beta )}
что означает, что дисперсия h(B) примерно
Var
-->
(
h
(
B
)
)
≈ ≈ -->
Var
-->
(
h
(
β β -->
)
+
∇ ∇ -->
h
(
β β -->
)
T
⋅ ⋅ -->
(
B
− − -->
β β -->
)
)
=
Var
-->
(
h
(
β β -->
)
+
∇ ∇ -->
h
(
β β -->
)
T
⋅ ⋅ -->
B
− − -->
∇ ∇ -->
h
(
β β -->
)
T
⋅ ⋅ -->
β β -->
)
=
Var
-->
(
∇ ∇ -->
h
(
β β -->
)
T
⋅ ⋅ -->
B
)
=
∇ ∇ -->
h
(
β β -->
)
T
⋅ ⋅ -->
Cov
-->
(
B
)
⋅ ⋅ -->
∇ ∇ -->
h
(
β β -->
)
=
∇ ∇ -->
h
(
β β -->
)
T
⋅ ⋅ -->
Σ Σ -->
n
⋅ ⋅ -->
∇ ∇ -->
h
(
β β -->
)
{\displaystyle {\begin{aligned}\operatorname {Var} \left(h(B)\right)&\approx \operatorname {Var} \left(h(\beta )+\nabla h(\beta )^{T}\cdot (B-\beta )\right)\\&=\operatorname {Var} \left(h(\beta )+\nabla h(\beta )^{T}\cdot B-\nabla h(\beta )^{T}\cdot \beta \right)\\&=\operatorname {Var} \left(\nabla h(\beta )^{T}\cdot B\right)\\&=\nabla h(\beta )^{T}\cdot \operatorname {Cov} (B)\cdot \nabla h(\beta )\\&=\nabla h(\beta )^{T}\cdot {\frac {\Sigma }{n}}\cdot \nabla h(\beta )\end{aligned}}}
Можно использовать формулу конечных приращений (для действительнозначных функций нескольких переменных), чтобы увидеть, что это не влияет на приближения в первом порядке[[{{{1}}}|?]] .
Дельта метод утверждает, что
n
(
h
(
B
)
− − -->
h
(
β β -->
)
)
→
D
N
(
0
,
∇ ∇ -->
h
(
β β -->
)
T
⋅ ⋅ -->
Σ Σ -->
⋅ ⋅ -->
∇ ∇ -->
h
(
β β -->
)
)
{\displaystyle {\sqrt {n}}\left(h(B)-h(\beta )\right)\,{\xrightarrow {D}}\,N\left(0,\nabla h(\beta )^{T}\cdot \Sigma \cdot \nabla h(\beta )\right)}
или в одномерном случае:
n
(
h
(
B
)
− − -->
h
(
β β -->
)
)
→
D
N
(
0
,
σ σ -->
2
⋅ ⋅ -->
(
h
′ ′ -->
(
β β -->
)
)
2
)
.
{\displaystyle {\sqrt {n}}\left(h(B)-h(\beta )\right)\,{\xrightarrow {D}}\,N\left(0,\sigma ^{2}\cdot \left(h^{\prime }(\beta )\right)^{2}\right).}
Пример
Этот раздел требует существенной доработки .
Этот раздел статьи необходимо дополнить и убрать это сообщение.
Замечание
Этот раздел требует существенной доработки .
Этот раздел статьи необходимо дополнить и убрать это сообщение.
Примечания