§2. Выборочная медиана: центр по счёту, а не по сумме

Вспомним вариационный ряд из §4 главы 4: элементы выборки, упорядоченные по возрастанию, $X_{(1)} \le X_{(2)} \le \dots \le X_{(n)}$.

Определение. Выборочной медианой называется

$$MED = \begin{cases} X_{(k+1)}, & n = 2k + 1, \\ \bigl(X_{(k)} + X_{(k+1)}\bigr)/2, & n = 2k. \end{cases}$$

При нечётном $n$ это просто средний по счёту элемент. При чётном средних двое, и берём полусумму. Например, для $n = 5$ медиана — третья точка слева.

Смысл по-пацански: выстроили пацанов по росту и взяли того, кто стоит посередине. Если в строй затесался баскетболист под три метра, среднее подскочит, а средний по счёту останется тем же.

Теоретическая медиана

$MED$ оценивает теоретическую медиану $x_{1/2}$ — решение уравнения $F(x) = \tfrac12$, где $F$ — функция распределения элементов выборки. Для непрерывной $F$ решение всегда существует, но может быть не единственным: если $F$ на каком-то отрезке стоит ровно на уровне $\tfrac12$, медианой годится любая его точка.

Как и матожидание, медиана показывает, где располагается «центр» распределения, только в смысле «поровну по вероятности»:

Ещё одно свойство медианы — она минимизирует средний модуль отклонения $\mathbf{M}|X - a|$ (задача 4), а матожидание минимизирует средний квадрат.

Пример 1. Радиоактивный распад. Радий ($Ra$) со временем превращается в радон ($Rn$): в момент распада атом излучает $\alpha$-частицу. Пусть время $\tau$ до распада одного атома не зависит от остальных и распределено показательно: $p_t = \mathbf{P}(\tau > t) = e^{-\lambda t}$. Из $n$ атомов (в одном грамме их около $10^{22}$) через время $t$ останется в среднем $n(t) = n\,e^{-\lambda t}$. Время $T$, за которое останется половина, $n(T) = n/2$, называется периодом полураспада:

Оно не зависит от исходного количества атомов, для радия $T \approx 1600$ лет. На языке теории вероятностей $T$ — медиана показательного распределения: половина атомов распадётся раньше, половина позже. Заметь, медиана $\frac{\ln 2}{\lambda} \approx \frac{0{,}69}{\lambda}$ меньше среднего времени жизни $\frac1\lambda$ — длинный правый хвост тянет среднее вверх.

Теорема о медиане

Какими свойствами обладает $MED$ как оценка для $x_{1/2}$?

Теорема 1. Пусть элементы выборки имеют плотность $p(x)$, причём $p(x_{1/2}) > 0$. Тогда при $n \to \infty$

$$\sqrt n\,\bigl(MED - x_{1/2}\bigr) \xrightarrow{d} \xi \sim N\!\left(0,\ \frac{1}{4p^2(x_{1/2})}\right).$$

По кирпичикам:

• стрелка с буквой $d$ — сходимость по распределению: функция распределения левой части стремится к функции распределения $\xi$;
• $\sqrt n$ — «коэффициент увеличения микроскопа». Ошибка $MED - x_{1/2}$ сама уходит в ноль, а умножив её на $\sqrt n$, мы растягиваем картинку и видим её форму — нормальный колокол;
• дисперсия колокола $\dfrac{1}{4p^2(x_{1/2})}$ тем меньше, чем выше плотность в точке медианы. Где наблюдения кучкуются гуще, там центр и проще нащупать.

Теорема 1 — частный случай теоремы 2 о квантилях, которую докажем в §3.

Вывод для практики. Точность медианы при больших $n$ — порядка $1/\sqrt n$. Умножив $(MED - x_{1/2})$ на $\sqrt n$, получаем нечто «практически ограниченное»: по правилу трёх сигм из главы 3 с вероятностью $0{,}997$

Отсюда же состоятельность: при выполнении условий теоремы 1 $MED \to x_{1/2}$ по вероятности (вопрос 1).

Смысл по-пацански: насколько точно ты нащупаешь середину района, зависит от того, сколько народу толпится именно там. Ларёк в центре и толпа вокруг — середину видно сразу. В центре пустырь — гадай.

Контрпример: дырка в центре

Условие $p(x_{1/2}) > 0$ существенно. Возьмём симметричную плотность, равную нулю на отрезке $[-a, a]$: например, равномерную на $[-2, -1] \cup [1, 2]$. Медиана распределения — любая точка $[-1, 1]$, единственной нет. Выборочная медиана при нечётных $n$ будет бесконечно много раз попадать то в $(-\infty, -a)$, то в $(a, +\infty)$: это зависит от того, каких точек случайно оказалось больше — левых или правых. Сходиться ей не к чему. Выбери в виджете закон «Дырка в центре».

Центр Коши — медианой

Вернёмся к модели сдвига Коши с плотностью $\dfrac{1}{\pi(1 + (x - \theta)^2)}$. Плотность симметрична относительно $\theta$, значит, $x_{1/2} = \theta$, и $p(x_{1/2}) = \dfrac1\pi > 0$. По теореме 1

$MED$ — состоятельная оценка параметра сдвига Коши, в отличие от $\bar X$. Есть оценки и поточнее, их разберём в следующих двух главах.

Пощупай руками

3000 раз берём выборку и смотрим на закон $\sqrt n(MED - x_{1/2})$ (синие столбики) и $\sqrt n(\bar X - \text{центр})$ (красные). Линии — нормальные колокола из теоремы 1 и ЦПТ. Пощёлкай законы:

• нормальный — среднее точнее медианы, его колокол уже;
• Лаплас — по теории медиана ровно вдвое точнее среднего. Сходимость тут медленная: при $n \approx 200$–$400$ опыт даёт отношение около $1{,}8$–$1{,}9$;
• Коши — среднее разлетается за кадр, медиана — аккуратный колокол;
• засорённый нормальный — примерно ничья;
• дырка в центре — медиана прыгает между $\pm 1$.

То же в коде — для Коши и нормального закона:

Замечание про источник

Для эксперимента с источником излучения из §1 есть и другие пути. Можно поставить вторую детекторную плоскость, если излучение пробивает первую, или накрыть источник непроницаемым экраном с «окошком». Тогда по засечкам можно восстановить сами направления и получить «сверхэффективность» — точность порядка $1/n$, как у максимума при оценке края отрезка в §1 главы 6. Но поучительно другое: такая естественная оценка центра симметрии и «сгущения» данных, как $\bar X$, оказалась несостоятельной. Поэтому и нужны более хитрые оценки.

Проверь себя