Skip to Content

§4. Зависимые наблюдения: когда соседи шепчутся

До сих пор мы предполагали, что приращения ZiZ_i независимы (допущение Д6). Чтобы показать, что происходит при отказе от этого допущения, рассмотрим пример.

Пример 3. Влияние сериальной корреляции

Пусть компоненты нормального случайного вектора (Z1,…,Zn)(Z_1, \dots, Z_n) (П9) таковы, что Zi∼N(θ,1)Z_i \sim \mathcal N(\theta, 1), M(ZiZj)=ρ\mathbf M(Z_iZ_j) = \rho при j=i±1j = i \pm 1 и 00 в противном случае, причём коэффициент корреляции ∣ρ∣≤1/2|\rho| \le 1/2 (корректность этого определения проверяется в задаче 2). При ρ=0\rho = 0 получаем независимые ZiZ_i, а при ρ≠0\rho \ne 0 зависимы лишь стоящие рядом величины. Эта модель — частный случай mm-зависимой последовательности с m=1m = 1 (П6).

По кирпичикам: это как измерения в соседние дни. Сегодня прибор барахлит — и завтра, скорее всего, тоже немного. А через неделю уже никакой связи.

Проверим гипотезу H0′ ⁣:θ=0H_0'\colon \theta = 0 против H3′ ⁣:θ>0H_3'\colon \theta > 0. При ρ=0\rho = 0 равномерно наиболее мощный критерий Неймана — Пирсона уровня α\alpha задаётся критическим множеством {z∈Rn:n zˉ≥x1−α}\{\mathbf z \in \mathbb R^n : \sqrt n\,\bar z \ge x_{1-\alpha}\} (пример 1 главы 13). Каков истинный уровень значимости этого критерия, если на самом деле ρ≠0\rho \ne 0? Вычислим

αρ(Zˉ)=P(n Zˉ≥x1−α)\alpha_\rho(\bar Z) = \mathbf P\bigl(\sqrt n\,\bar Z \ge x_{1-\alpha}\bigr)

при верной H0′H_0'. Как линейная комбинация компонент нормального вектора, n Zˉ\sqrt n\,\bar Z распределена нормально с M(n Zˉ)=0\mathbf M(\sqrt n\,\bar Z) = 0 и D(n Zˉ)=1+2ρ(n−1)/n\mathbf D(\sqrt n\,\bar Z) = 1 + 2\rho(n - 1)/n (свойства дисперсии 1 и 3 из П2). Отсюда при больших nn

αρ(Zˉ)=1−Φ(x1−α/D(n Zˉ))≈1−Φ(x1−α/1+2ρ).\alpha_\rho(\bar Z) = 1 - \Phi\Bigl(x_{1-\alpha}\big/\sqrt{\mathbf D(\sqrt n\,\bar Z)}\Bigr) \approx 1 - \Phi\bigl(x_{1-\alpha}/\sqrt{1 + 2\rho}\bigr).

Смысл по-пацански: у суммы nn коррелированных величин разброс больше, чем у суммы независимых: каждый сосед «подпевает». Критерий рассчитан на меньший разброс — и пугается чаще, чем должен.

Критерий знаков

Вычислим для критерия знаков аналогичную характеристику

αρ(S)=P((S−n/2)/n/4≥x1−α),\alpha_\rho(S) = \mathbf P\Bigl((S - n/2)\big/\sqrt{n/4} \ge x_{1-\alpha}\Bigr),

где S=∑UiS = \sum U_i, Ui=I{Zi>0}U_i = I_{\{Z_i > 0\}}. При H0′H_0'

MS=n MU1=n/2,DS=n DU1+2(n−1) cov(U1,U2)=n/4+2(n−1)[P(Z1>0,Z2>0)−1/4],\mathbf MS = n\,\mathbf MU_1 = n/2, \qquad \mathbf DS = n\,\mathbf DU_1 + 2(n - 1)\,\mathrm{cov}(U_1, U_2) = n/4 + 2(n - 1)\bigl[\mathbf P(Z_1 > 0, Z_2 > 0) - 1/4\bigr],

поскольку DU1=MU12−(MU1)2=MU1−1/4=1/4\mathbf DU_1 = \mathbf MU_1^2 - (\mathbf MU_1)^2 = \mathbf MU_1 - 1/4 = 1/4. Из задачи 3

P(Z1>0,Z2>0)=14+12πarcsin⁡ρ.(9)\mathbf P(Z_1 > 0, Z_2 > 0) = \frac14 + \frac1{2\pi}\arcsin\rho. \tag{9}

Подставляя, получаем

DS=n4+n−1πarcsin⁡ρ.\mathbf DS = \frac n4 + \frac{n - 1}\pi\arcsin\rho.

Так как M∣U1∣3=MU1=1/2<∞\mathbf M|U_1|^3 = \mathbf MU_1 = 1/2 < \infty, выполнены условия теоремы Хёфдинга и Роббинса из П6 (центральная предельная теорема для mm-зависимых последовательностей), и (S−MS)/DS→N(0,1)(S - \mathbf MS)/\sqrt{\mathbf DS} \to \mathcal N(0, 1). Отсюда при n→∞n \to \infty

αρ(S)≈1−Φ(x1−αn/4DS)≈1−Φ(x1−α1+(4/π)arcsin⁡ρ).\alpha_\rho(S) \approx 1 - \Phi\Bigl(\frac{x_{1-\alpha}\sqrt{n/4}}{\sqrt{\mathbf DS}}\Bigr) \approx 1 - \Phi\Bigl(\frac{x_{1-\alpha}}{\sqrt{1 + (4/\pi)\arcsin\rho}}\Bigr).

Критерий знаковых рангов

Приведём для сравнения аналогичную характеристику для статистики TT критерия знаковых рангов Уилкоксона (у Лагутина — ссылка [86]). Из задачи 6 при H0′H_0' MT=n(n+1)/4\mathbf MT = n(n + 1)/4, DT=n(n+1)(2n+1)/24\mathbf DT = n(n + 1)(2n + 1)/24, и

αρ(T)=P(T−MTDT≥x1−α)≈1−Φ(x1−α1+(12/π)arcsin⁡(ρ/2)).\alpha_\rho(T) = \mathbf P\Bigl(\frac{T - \mathbf MT}{\sqrt{\mathbf DT}} \ge x_{1-\alpha}\Bigr) \approx 1 - \Phi\Bigl(\frac{x_{1-\alpha}}{\sqrt{1 + (12/\pi)\arcsin(\rho/2)}}\Bigr).

Таблица истинных уровней

Значения при номинальном α=5 %\alpha = 5\,\%:

ρ\rho−0,4−0,3−0,2−0,100,10,20,30,40,5
αρ(Zˉ)\alpha_\rho(\bar Z)0,0000,0050,0170,0330,050,0670,0820,0970,1090,122
αρ(S)\alpha_\rho(S)0,0090,0180,0280,0390,050,0610,0710,0810,0920,101
αρ(T)\alpha_\rho(T)0,0000,0060,0180,0330,050,0670,0810,0950,1070,120

(Мы пересчитали таблицу по формулам — расхождения не больше 0,001, на уровне округления.)

Истинные уровни значимости всех трёх критериев довольно существенно отличаются от 5 %. При положительной корреляции далёкие от нуля ZiZ_i как бы подтягивают к себе соседей, и дисперсия статистики растёт по сравнению с номинальной. Так, при ρ=0,4\rho = 0{,}4 гипотеза H0′H_0' отвергается примерно в 10 % случаев вместо 5 %.

Заметим также, что строка αρ(T)\alpha_\rho(T) почти совпадает со строкой αρ(Zˉ)\alpha_\rho(\bar Z). Это объясняется тем, что arcsin⁡ρ=ρ+ρ3/6+…\arcsin\rho = \rho + \rho^3/6 + \dots, поэтому

1+12πarcsin⁡(ρ/2)≈1+6πρ≈1+2ρ.1 + \frac{12}\pi\arcsin(\rho/2) \approx 1 + \frac6\pi\rho \approx 1 + 2\rho.

Сериальная корреляция ломает уровень значимости

Гипотеза H₀′: θ = 0 верна, но соседние приращения коррелированы. Кривые — истинный уровень значимости трёх критериев номинального уровня 0.05 при n → ∞ (формулы примера 3). Пунктир — выбранное ρ.При ρ = 0.40: среднее — 0,110 (моделирование 0,117), знаки — 0,091 (0,097), знаковые ранги — 0,108 (0,118); моделирование — 3000 выборок объёма 100.

Смысл по-пацански: выбор критерия — дело десятое. Если наблюдения шепчутся между собой, любой из трёх врёт об уровне значимости в два раза. Ранговый критерий от зависимости не спасает.

Наличие корреляции для реальных наблюдений — скорее правило, чем исключение. Б. Мандельброт и Дж. Уоллис исследовали около 70 рядов геофизических данных: речной сток, количество осадков, частота землетрясений, годовые кольца деревьев, мощность геологических слоёв, число солнечных пятен. В большинстве случаев была выявлена значимая положительная корреляция.

Пример 4. Колебания уровня воды

Рассмотрим упрощённую вероятностную модель отклонений от среднего уровня водоёма (например, Каспийского моря), вызванных испарением с поверхности и колебаниями в стоке. Обозначим через HnH_n уровень в nn-м году. Уравнение баланса:

Hn+1=Hn−k S(Hn)+Tn+1,H_{n+1} = H_n - k\,S(H_n) + T_{n+1},

где kk — коэффициент испарения, S(H)S(H) — площадь водной поверхности на уровне HH, Tn+1T_{n+1} — величина стока в (n+1)(n + 1)-м году.

Пусть Zn=Hn−HˉZ_n = H_n - \bar H, где средний уровень Hˉ\bar H известен из многолетних наблюдений. Предположим, что S(H)=S(Hˉ)+c(H−Hˉ)S(H) = S(\bar H) + c(H - \bar H) — для гладких SS это приближённо верно при не очень больших отклонениях. Тогда

Zn+1=αZn+εn+1,α=1−ck,εn+1=Tn+1−kS(Hˉ).Z_{n+1} = \alpha Z_n + \varepsilon_{n+1}, \qquad \alpha = 1 - ck, \quad \varepsilon_{n+1} = T_{n+1} - kS(\bar H).

Будем считать εn\varepsilon_n независимыми одинаково нормальными с нулевым средним и дисперсией σ2\sigma^2. Эти соотношения при ∣α∣<1|\alpha| < 1 имеют единственное стационарное (П6) решение

Z~n=∑i=0∞αiεn−i,cov(Z~0,Z~n)=σ2αn/(1−α2).\tilde Z_n = \sum_{i=0}^\infty\alpha^i\varepsilon_{n-i}, \qquad \mathrm{cov}(\tilde Z_0, \tilde Z_n) = \sigma^2\alpha^n/(1 - \alpha^2).

По кирпичикам: уровень этого года — это доля α\alpha прошлогоднего отклонения (водоём «помнит», но постепенно забывает) плюс новый случайный приток. Корреляция между годами убывает как αn\alpha^n — экспоненциально, но не мгновенно.

Интересный практический вывод: оптимальным (в среднеквадратичном смысле в классе линейных функций) прогнозом на следующий год по наблюдениям прошлых лет …,Zn−1,Zn\dots, Z_{n-1}, Z_n служит просто αZn\alpha Z_n. Вся история кроме последнего года для прогноза не нужна.

Загрузка редактора…

Проверь себя

Тест

ρ = 0,4, номинальный уровень 5 %. Как часто критерий знаков отвергнет верную гипотезу при больших n?
Обновлено