Skip to Content

§3. R-оценки

Так называемые RR-оценки ведут своё происхождение от ранговых критериев для проверки гипотез о значении параметра сдвига θ\theta (см. гл. 14, 15).

Пусть X(1)<⋯<X(n)X_{(1)} < \dots < X_{(n)} обозначают упорядоченные наблюдения, d1,…,dnd_1, \dots, d_n — набор неотрицательных чисел. Рассмотрим n(n+1)/2n(n+1)/2 полусумм вида (X(j)+X(k))/2(X_{(j)} + X_{(k)})/2 при 1≤j≤k≤n1 \le j \le k \le n (при j=kj = k это просто сами порядковые статистики X(j)X_{(j)}). Каждой такой полусумме припишем вес

wjk=dn−(k−j)/∑i=1nidi.(17)w_{jk} = d_{n-(k-j)}\Big/\sum_{i=1}^nid_i. \tag{17}

Легко проверить (убедитесь!), что в сумме эти веса дают 1. Рассмотрим дискретное распределение, присваивающее вероятности wjkw_{jk} значениям (X(j)+X(k))/2(X_{(j)} + X_{(k)})/2. По определению, RR-оценка RnR_n есть медиана этого распределения.

По кирпичикам (убеждаемся): вес зависит только от разности r=k−jr = k - j, r=0,1,…,n−1r = 0, 1, \dots, n - 1. Пар (j,k)(j, k) с данной разностью rr ровно n−rn - r (от (1,1+r)(1, 1 + r) до (n−r,n)(n - r, n)). Значит, ∑j≤kdn−(k−j)=∑r=0n−1(n−r)dn−r=∑i=1nidi\sum_{j\le k}d_{n-(k-j)} = \sum_{r=0}^{n-1}(n - r)d_{n-r} = \sum_{i=1}^nid_i (подстановка i=n−ri = n - r). Делим на тот же знаменатель — выходит 1.

Отметим аналогию с LL-оценками Ln=∑wiX(i)L_n = \sum w_iX_{(i)}, у которых веса wi≥0w_i \ge 0, ∑wi=1\sum w_i = 1. В этом случае LnL_n есть математическое ожидание распределения, приписывающего вероятности wiw_i значениям X(i)X_{(i)}. А RR-оценка — медиана распределения полусумм.

Смысл по-пацански: составляем все пары пацанов (и каждого самого с собой), для каждой пары ставим точку посередине между ними. Каждой такой «середине» даём голос, зависящий только от того, насколько далеко друг от друга стоят пацаны в строю. Потом ищем «серединного» по голосам — это и есть RR-оценка.

Пример 4. Знакомые оценки — тоже R-оценки

Пусть d1=⋯=dn−1=0d_1 = \dots = d_{n-1} = 0, dn=1d_n = 1. Тогда ∑idi=n\sum id_i = n, wjk=1/nw_{jk} = 1/n при j=kj = k и равны нулю в противном случае. Дискретное распределение, по которому строится RR-оценка, приписывает вероятность 1/n1/n каждому из X(1),…,X(n)X_{(1)}, \dots, X_{(n)}, т. е. RnR_n — это просто выборочная медиана наблюдений.

Возьмём, наоборот, d1=1d_1 = 1, d2=⋯=dn=0d_2 = \dots = d_n = 0. Тогда веса wjkw_{jk} положительны, лишь когда k−j=n−1k - j = n - 1, т. е. когда j=1j = 1 и k=nk = n. Таким образом, полусумме (X(1)+X(n))/2(X_{(1)} + X_{(n)})/2 присваивается вероятность 1, и RnR_n представляет собой середину размаха выборки.

Когда d1=⋯=dn=1d_1 = \dots = d_n = 1, все величины (X(j)+X(k))/2(X_{(j)} + X_{(k)})/2 имеют одинаковый вес. Медиана RnR_n этих полусумм появилась в §3 гл. 8 под названием медианы средних Уолша WW.

Напротив, оценка Гальтона, определённая в задаче 3 гл. 8 как

θ^=MED{(X(i)+X(n−i+1))/2, i=1,…,[(n+1)/2]}\hat\theta = MED\bigl\{\bigl(X_{(i)} + X_{(n-i+1)}\bigr)/2,\ i = 1, \dots, [(n+1)/2]\bigr\}

(здесь [⋅][\cdot] обозначает целую часть числа), не входит в число RR-оценок. Дело в том, что полусуммам вида (X(i)+X(n−i+1))/2(X_{(i)} + X_{(n-i+1)})/2 приписаны равные веса, а всем остальным — нулевые, но согласно (17) полусуммы, находящиеся на одной диагонали k−j=constk - j = \text{const} (рис. 4 у Лагутина), должны иметь одинаковый вес.

По кирпичикам: полусуммы Гальтона лежат на антидиагонали j+k=n+1j + k = n + 1 треугольника, а у RR-оценок вес постоянен вдоль диагоналей k−j=constk - j = \text{const}. Антидиагональ пересекает все диагонали с разными k−jk - j — по одной клетке из каждой, а остальные клетки этих диагоналей получают вес 0. Так нельзя.

R-оценки: треугольник полусумм

1122334455667788k →, j ↓
d = (1,00; 1,00; 1,00; 1,00; 1,00; 1,00; 1,00; 1,00)
Медиана Уолша (все dᵢ = 1): 0,401
для сравнения MED = 0,336

Клетка (j, k), j ≤ k — полусумма (X₍ⱼ₎ + X₍ₖ₎)/2; цвет — её вес w_jk из (17): d с номером n − (k − j), делённое на Σ i·dᵢ. Вес зависит только от номера диагонали k − j (рис. 4 у Лагутина): главная диагональ — сами X₍ⱼ₎ (вес dₙ), угол (1, n) — середина размаха (вес d₁). R-оценка — медиана распределения полусумм с этими весами (на оси снизу: кружки — данные, ромбы — полусуммы с ненулевым весом). Оценка Гальтона берёт только полусуммы (X₍ᵢ₎ + X₍ₙ₋ᵢ₊₁₎)/2 — антидиагональ, у которой k − j меняется, — поэтому в класс R-оценок она не входит. Добавь выброс: середина размаха улетает, медиана Уолша сдвигается чуть-чуть.

Проверка

Сколько полусумм (X(j)+X(k))/2(X_{(j)} + X_{(k)})/2, j≤kj \le k, участвует в построении RR-оценки при n=8n = 8?

Асимптотика и оптимальность

Для того чтобы получить асимптотическое распределение для RnR_n, зададим di=dind_i = d_{in} с помощью функции K(t)K(t), определённой на (0,1)(0, 1), неубывающей и удовлетворяющей соотношению K(1−t)=−K(t)K(1 - t) = -K(t) (т. е. график K(t)K(t) центрально симметричен относительно точки плоскости с координатами (12,0)(\frac12, 0)), полагая

din=K(i+12n+1)−K(i2n+1).d_{in} = K\Bigl(\frac{i+1}{2n+1}\Bigr) - K\Bigl(\frac i{2n+1}\Bigr).

Для модели сдвига Xi∼F(x−θ)X_i \sim F(x - \theta), где распределение FF предполагается симметричным с (чётной) плотностью p(x)p(x), при некоторых условиях регулярности на KK и FF имеет место сходимость

n(Rn−θ)→dξ∼N(0,σ2(F,K)),где σ2(F,K)=∫01K2(t) dt/[∫−∞∞K′[F(x)] p2(x) dx]2.\sqrt n(R_n - \theta) \xrightarrow{d} \xi \sim \mathcal N\bigl(0, \sigma^2(F, K)\bigr), \quad\text{где } \sigma^2(F, K) = \int_0^1K^2(t)\,dt\Big/\Bigl[\int_{-\infty}^{\infty}K'[F(x)]\,p^2(x)\,dx\Bigr]^2.

Как и в случае LL-оценок и MM-оценок, для заданной функции распределения FF существует асимптотически эффективная RR-оценка. Она соответствует функции

K(t)=γ(F−1(t)),где γ задаётся формулой (4).K(t) = \gamma\bigl(F^{-1}(t)\bigr), \quad\text{где } \gamma \text{ задаётся формулой (4).}

По кирпичикам: для медианы Уолша K(t)=2t−1K(t) = 2t - 1, K′=2K' = 2, ∫01(2t−1)2dt=13\int_0^1(2t-1)^2dt = \frac13, и σ2=13/(2∫p2)2=1/(12(∫p2)2)\sigma^2 = \frac13\big/\bigl(2\int p^2\bigr)^2 = 1\big/\bigl(12(\int p^2)^2\bigr) — та самая формула из гл. 8. Для нормального закона ∫φ2=1/(2π)\int\varphi^2 = 1/(2\sqrt\pi), отсюда σ2=π/3≈1,047\sigma^2 = \pi/3 \approx 1{,}047 и эффективность относительно X‾\overline X 3/π≈0,9553/\pi \approx 0{,}955.

Пример 5. Оптимальные K для трёх законов

Для логистического распределения в примере 1 §1 было отмечено, что γ(x)=2F(x)−1\gamma(x) = 2F(x) - 1, так что оптимальная функция K(t)=2t−1K(t) = 2t - 1, и, значит, din=2/(2n+1)d_{in} = 2/(2n + 1) для всех i=1,…,ni = 1, \dots, n. Так как RR-оценка в силу соотношения (17) не меняется, когда все dind_{in} умножаются на одну и ту же положительную константу, то получающаяся в результате асимптотически эффективная RR-оценка есть медиана средних Уолша WW. Согласно задаче 4 гл. 8 толерантность τW=1−2/2≈0,293\tau_W = 1 - \sqrt2/2 \approx 0{,}293.

В случае закона Коши оптимальная K(t)=−sin⁡(2πt)K(t) = -\sin(2\pi t).

Для стандартного нормального закона γ(x)=x\gamma(x) = x и, следовательно, K(t)=Φ−1(t)K(t) = \Phi^{-1}(t), где Φ−1\Phi^{-1} — обратная к функции распределения закона N(0,1)\mathcal N(0, 1). Соответствующая ей RR-оценка называется оценкой с нормальными весами (или метками) и обозначается через NN.

По кирпичикам — проверим Коши: γ(x)=2x/(1+x2)\gamma(x) = 2x/(1 + x^2), F−1(t)=tg⁡(π(t−12))=−ctg⁡(πt)F^{-1}(t) = \operatorname{tg}(\pi(t - \frac12)) = -\operatorname{ctg}(\pi t). При x=tg⁡ux = \operatorname{tg}u: 2x/(1+x2)=sin⁡2u2x/(1 + x^2) = \sin 2u, а 2u=2πt−π2u = 2\pi t - \pi, так что γ(F−1(t))=sin⁡(2πt−π)=−sin⁡(2πt)\gamma(F^{-1}(t)) = \sin(2\pi t - \pi) = -\sin(2\pi t).

Оценка NN из примера 5 интересна тем, что на классе Ωs\Omega_s гладких симметричных распределений (см. определение в §1 гл. 8) она доминирует по эффективности над оценкой X‾\overline X.

Теорема 3. Если XiX_i имеют функцию распределения F(x−θ)F(x - \theta), то

eN,X‾(F)≥1для всех F∈Ωs,e_{N,\overline X}(F) \ge 1 \quad\text{для всех } F \in \Omega_s,

где неравенство строгое, за исключением случая F=ΦF = \Phi.

Тем самым NN улучшает нижнюю границу медианы средних Уолша WW: eW,X‾(F)≥108/125≈0,864e_{W,\overline X}(F) \ge 108/125 \approx 0{,}864 для всех F∈ΩsF \in \Omega_s, приведённую в теореме 4 гл. 8.

Толерантность оценки NN равна τN=2Φ(−ln⁡4)≈0,239\tau_N = 2\Phi(-\sqrt{\ln 4}) \approx 0{,}239. Однако П. Хьюбер высказывает мнение, что оценку NN не следует рекомендовать для практического использования: показатели её количественной робастности очень быстро ухудшаются при отклонении от нормальной модели, и NN становится хуже, чем, например, оценка WW. Быстрый рост этих показателей связан с неограниченностью K(t)=Φ−1(t)K(t) = \Phi^{-1}(t).

Проверка

Вычисли толерантность τN=2Φ(−ln⁡4)\tau_N = 2\Phi(-\sqrt{\ln 4}) оценки с нормальными метками (три знака).

Смысл по-пацански: оценка NN — отличник на экзамене по нормальному закону и ни на одном гладком симметричном законе не хуже среднего. Но стоит подсунуть тяжёлые хвосты (Коши) — и отличник сыпется: дисперсия 4,65 при возможных 2. Медиана Уолша скромнее, зато не сыпется. Посмотри строку «Нормальные метки N» в таблице ниже.

L-, M- и R-оценки: кто где хорош

Проверка моделированием (n = 40, 300 выборок):
ОценкаклассНормальныйЛогистическийЛапласКошиЗасорённыйХьюбер (ε = 0,05)
Среднее X̄L, M, R1,003,292,00∞1,801,41
Медиана MEDL, M, R1,574,001,002,471,801,74
Усечённое 10 %L1,063,021,494,771,301,26
Усечённое 25 %L1,203,161,232,551,391,35
Хьюбер, b = 1,5M1,043,061,472,991,301,26
Тьюки (бивес)M1,053,571,432,351,281,28
Медиана Уолша WR1,053,001,333,291,311,26
Нормальные метки NR1,003,141,574,651,421,33
граница 1/I(F)1,003,001,002,001,261,26

Асимптотические дисперсии σ² (в единицах 1/n) по формулам теоремы 1 (L), (11) (M) и §3 (R); нижняя строка — граница Рао — Крамера 1/I(F). Жирным — лучшая оценка в столбце. Ни одна оценка не лучшая везде: X̄ идеальна для нормального закона и бесполезна для Коши, медиана — наоборот. Хьюбер и медиана Уолша почти нигде не проваливаются — это и есть робастность. Нормальные метки N на нормальном законе не хуже X̄, но на Коши — 4,65 при границе 2 (мнение Хьюбера в §3). Кнопки законов запускают моделирование: последняя колонка — n·Var по выборкам (для Коши у X̄ получится огромное случайное число).

Загрузка редактора…

Взаимосвязь M-, L- и R-оценок

В заключение отметим любопытную взаимосвязь между MM-, LL- и RR-оценками. Для заданной F∈ΩsF \in \Omega_s и нечётной ψ\psi обозначим через λψ\lambda_\psi функцию, пропорциональную ψ′(F−1(t))\psi'(F^{-1}(t)), и положим Kψ=ψ(F−1(t))K_\psi = \psi(F^{-1}(t)). Тогда

σM2(F,ψ)=σL2(F,λψ)=σR2(F,Kψ).\sigma_M^2(F, \psi) = \sigma_L^2(F, \lambda_\psi) = \sigma_R^2(F, K_\psi).

Другими словами, для всякой MM-оценки найдутся асимптотически эквивалентные LL-оценка и RR-оценка.

В частности, при ψ=γ\psi = \gamma согласно примерам 1, 2 и 5 имеем:

ЗаконMM: ψ(x)\psi(x)LL: λψ(t)\lambda_\psi(t)RR: Kψ(t)K_\psi(t)
нормальный, F=ΦF = \Phixx — среднее X‾\overline X≡1\equiv 1 — среднее X‾\overline XΦ−1(t)\Phi^{-1}(t) — оценка NN
логистическийth⁡(x/2)\operatorname{th}(x/2)6t(1−t)6t(1 - t)2t−12t - 1 — медиана Уолша WW

Смысл по-пацански: три бригады, а результат один. Любую MM-оценку можно переписать в LL-форме (через веса по месту) или в RR-форме (через полусуммы) — и в пределе получится та же точность.

К рассмотренной взаимосвязи имеет отношение следующий результат о применении к классу LL-оценок минимаксного подхода Хьюбера (см. пример 3 §2). Сначала покажем, что MM-оценке Хьюбера с ψ=ψb\psi = \psi_b (независимо от вида FF) соответствует в классе LL-оценок усечённое среднее X‾α\overline X_\alpha, где α=F(−b)\alpha = F(-b). Действительно, ψb′(x)=I{∣x∣<b}\psi_b'(x) = I_{\{|x|<b\}}. Тогда функция λψb\lambda_{\psi_b} пропорциональна

ψb′(F−1(t))=1,если ∣F−1(t)∣<b,\psi_b'\bigl(F^{-1}(t)\bigr) = 1, \quad\text{если } |F^{-1}(t)| < b,

и равна нулю в противном случае. Так как неравенство ∣F−1(t)∣<b|F^{-1}(t)| < b эквивалентно неравенству F(−b)<t<F(b)F(-b) < t < F(b), то λψb(t)\lambda_{\psi_b}(t) постоянна на интервале (α,1−α)(\alpha, 1 - \alpha) и равна 0 вне этого интервала.

Отсюда ввиду (13) §2 возникает вопрос: не является ли LL-оценка, минимизирующая для G=ΦG = \Phi

sup⁡F∈Ω(G,ε)σL2(F,λ),\sup_{F\in\Omega(G,\varepsilon)}\sigma_L^2(F, \lambda),

усечённым средним X‾α\overline X_\alpha с α=Φ(−b)\alpha = \Phi(-b), соответствующим оценке Хьюбера с константой bb, определяемой по ε\varepsilon из соотношения (14)? Л. Джекел в 1971 г. доказал, что это действительно так.

Проверь себя

Тест

Какой набор d соответствует медиане средних Уолша?

Тест

Почему оценка Гальтона не является R-оценкой?

Тест

Какая R-оценка асимптотически эффективна для логистического закона?
Обновлено