Глава 7. Асимптотическая нормальность

Все верят в универсальность нормального распределения: физики верят потому, что думают, что математики доказали его логическую необходимость, а математики верят, так как считают, что физики проверили это лабораторными экспериментами.

— А. Пуанкаре

В главе 6 мы сравнивали оценки по точности при фиксированном $n$. Но точные формулы для риска есть далеко не всегда. Зато почти всегда работает другое: при большой выборке закон хорошей оценки становится нормальным, и вся её точность описывается одним числом — асимптотической дисперсией. Сравнивать оценки становится просто: у кого это число меньше, тот и точнее.

Начнём с закона, на котором ломается самая привычная оценка. У распределения Коши выборочное среднее не сходится вообще никуда, сколько данных ни собирай. Спасает медиана.

Параграфы

• §1. Распределение Коши — луч из точки, тяжёлые хвосты и среднее, которое не сходится.
• §2. Выборочная медиана — центр по счёту, а не по сумме; теорема об асимптотической нормальности медианы.
• §3. Выборочные квантили — обобщение медианы, теорема с доказательством и «дельта-метод».
• §4. Относительная эффективность — асимптотическая дисперсия и сколько наблюдений экономит лучшая оценка.
• §5. Устойчивые законы — какие ещё пределы, кроме нормального, бывают у сумм.

Практика

• Задачи с разборами
• Контрольные вопросы

Что уносим из главы

Асимптотически нормальная оценка при большом $n$ ведёт себя как $\theta + \sigma\,\xi/\sqrt n$ с $\xi \sim N(0,1)$. Точность растёт как $1/\sqrt n$, а качество оценки сидит в одном числе $\sigma^2$. Медиана устойчива к тяжёлым хвостам, среднее — нет. Но на нормальном законе среднее эффективнее медианы. Универсально лучшей оценки нет: выбор зависит от того, насколько хвостатые у тебя данные.