§3. Медиана средних Уолша: и точная, и крепкая

Определение

По выборке $X_1, \dots, X_n$ построим $N = \dfrac{n(n+1)}{2}$ новых случайных величин

Их называют средними Уолша. Сюда входят и сами $X_i$ (при $i = j$), и полусуммы всех пар. Рассмотрим статистику

— медиану средних Уолша. Её ещё называют оценкой Ходжеса — Лемана для центра симметрии (те же Ходжес и Леман, что в главе 6, но оценка другая).

По кирпичикам — почему это разумно. Если закон симметричен относительно $\theta$, то и полусумма любых двух независимых наблюдений симметрична относительно $\theta$. Средних Уолша намного больше, чем точек, и каждое из них уже «наполовину усреднено» — их разброс меньше. Медиана по такой сглаженной куче берёт лучшее от обоих миров: от среднего — использование расстояний, от медианы — нечувствительность к дальним точкам.

Смысл по-пацански: вместо того чтобы спрашивать каждого пацана по отдельности, спрашиваешь все пары: «а вы вдвоём, в среднем, где живёте?». Вруны тоже попадут в пары, но их пар меньше половины, и медиана их не заметит.

Для $n = 4$ средних Уолша уже 10, для $n = 100$ — 5050. Компьютеру это не страшно.

Теорема о медиане Уолша

Теорема 3. Если $X_i$ имеют функцию распределения $F(x - \theta)$, где $F \in \Omega_s$, то

$$\sqrt n\,(W - \theta) \xrightarrow{d} \xi \sim N(0, \sigma_F^2) \quad \text{при } n \to \infty,$$

где $\sigma_F^2 = 1/E(F)$, $E(F) = 12\left(\displaystyle\int p^2(t)\,dt\right)^2$, а $p(t)$ — плотность, отвечающая $F$.

Интеграл $\int p^2$ — «насколько плотность кучкуется». Чем острее пик, тем он больше и тем точнее $W$.

Отсюда относительная эффективность к среднему: $e_{W, \bar X} = \sigma^2_{\bar X} / \sigma^2_F = 12\left(\int p^2\right)^2 \mathbf{D}X_1$.

Нормальный закон. $\int \varphi^2(t)\,dt = \dfrac{1}{2\pi}\int e^{-t^2}\,dt = \dfrac{1}{2\sqrt\pi}$, поэтому

Потеря эффективности всего 4,5 % (вопрос 5) — против 36 % у медианы.

Гарантия на всём классе

Более того, на всём классе $\Omega_s$ верна оценка снизу.

Теорема 4. Для всех распределений $F \in \Omega_s$ справедливо неравенство

$$e_{W, \bar X}(F) \ge \frac{108}{125} = 0{,}864.$$

Используя $W$ вместо $\bar X$ для оценки параметра сдвига симметричного распределения, мы в самом худшем случае потеряем только 14 % эффективности. Худший случай реализуется на параболической плотности

(Мы проверили численно: на ней $12\left(\int p^2\right)^2 \mathbf{D}X_1 = 0{,}864$.) Сравни с усечённым средним из §2, где при $\alpha = 1/8$ потеря на классе могла доходить до 44 %.

С другой стороны, $e_{W, \bar X}$ может быть сколь угодно велика — бесконечна, если $\mathbf{D}X_1 = \infty$, как у Коши.

Смысл по-пацански: $W$ — как надёжный кореш. В лучший день он чуть уступает чемпиону ($0{,}955$ на нормальном законе), зато в худший никогда не подводит больше чем на 14 %. А чемпион ($\bar X$) на плохом районе может слиться полностью.

Не боится выбросов

При сохранении высокой эффективности $W$ оказывается достаточно робастной: она «не боится» даже того, что доля выбросов в выборке достигает 29 % (задача 4). В §4 это свойство назовём асимптотической толерантностью и покажем, как резко падает точность неробастных оценок при крайне малом возмущении модели.

Сравни все четыре оценки на разных законах. Режим «Эффективность на законах»: столбики — эффективность относительно лучшей оценки на этом законе. У $W$ столбик нигде не проваливается. Подвигай $\varepsilon$ у засорённого закона: уже при 1 % засорения $\bar X$ уступает $W$.

Проверь себя