Skip to Content

§1. Стратегия построения критериев

В этой главе одно- и двухвыборочные ранговые критерии из гл. 14 и гл. 15 обобщаются на многомерный случай (изложение у Лагутина в основном следует монографии Хеттманспергера). Если в многомерной модели участвуют pp-мерные векторы, то нас будет интересовать некоторая векторная pp-мерная статистика S=(S1,…,Sp)\boldsymbol S = (S_1, \dots, S_p), у которой каждая компонента SjS_j при нулевой гипотезе центрирована: MSj=0\mathsf MS_j = 0, j=1,…,pj = 1, \dots, p.

По кирпичикам: «центрирована» — значит, если гипотеза верна, каждая компонента в среднем равна нулю и только болтается вокруг нуля из-за случайности. Большое по модулю SjS_j — улика против гипотезы. Вопрос лишь в том, как свести pp улик в одно число и понять, что такое «большое».

План

При построении критериев станем придерживаться следующего плана:

  1. установим, что в случае справедливости нулевой гипотезы при n→∞n \to \infty распределение статистики n−1/2Sn^{-1/2}\boldsymbol S стремится к pp-мерному нормальному закону N(0,V)\mathcal N(\boldsymbol 0, \boldsymbol V) с невырожденной матрицей ковариаций V\boldsymbol V (см. П9);
  2. найдём состоятельную оценку V^\hat{\boldsymbol V} для V\boldsymbol V (см. §2 гл. 6);
  3. исходя из этого, видим, что статистика критерия
S∗=n−1STV^−1S=ST(nV^)−1SS^* = n^{-1}\boldsymbol S^T\hat{\boldsymbol V}^{-1}\boldsymbol S = \boldsymbol S^T(n\hat{\boldsymbol V})^{-1}\boldsymbol S

распределена в пределе по закону χp2\chi^2_p (см. П5, П9).

Смысл по-пацански: три шага, как у любого нормального дела. Первое — убедиться, что при честном раскладе статистика ведёт себя как «нормальный шум». Второе — выяснить по самим данным, насколько этот шум размашист и как координаты шумят вместе. Третье — сравнить, что видим, с этим шумом в правильных единицах. Если вышло больше, чем шум себе позволяет, — значит, не шум.

Почему именно χp2\chi^2_p

По кирпичикам. Пусть Z∼N(0,V)\boldsymbol Z \sim \mathcal N(\boldsymbol 0, \boldsymbol V) и V\boldsymbol V невырождена. Матрицу ковариаций можно «извлечь из-под корня»: найдётся матрица A\boldsymbol A с AAT=V\boldsymbol A\boldsymbol A^T = \boldsymbol V (например, разложение Холецкого из гл. 20). Тогда вектор U=A−1Z\boldsymbol U = \boldsymbol A^{-1}\boldsymbol Z имеет ковариацию A−1V(A−1)T=I\boldsymbol A^{-1}\boldsymbol V(\boldsymbol A^{-1})^T = \boldsymbol I, т. е. его компоненты — независимые стандартные нормальные величины. А

ZTV−1Z=ZT(A−1)TA−1Z=UTU=U12+⋯+Up2∼χp2\boldsymbol Z^T\boldsymbol V^{-1}\boldsymbol Z = \boldsymbol Z^T(\boldsymbol A^{-1})^T\boldsymbol A^{-1}\boldsymbol Z = \boldsymbol U^T\boldsymbol U = U_1^2 + \dots + U_p^2 \sim \chi^2_p

по определению закона хи-квадрат. Замена V\boldsymbol V на состоятельную оценку V^\hat{\boldsymbol V} на предельный закон не влияет.

Смысл по-пацански: V−1\boldsymbol V^{-1} в середине — это «переводчик». Он раскручивает облако шума так, чтобы оно стало круглым и одинаковым по всем направлениям, — и только потом меряет расстояние от нуля. В круглом облаке квадрат расстояния — сумма pp квадратов независимых нормальных, а это и есть χp2\chi^2_p.

Величина ZTV−1Z\boldsymbol Z^T\boldsymbol V^{-1}\boldsymbol Z — квадрат расстояния Махаланобиса от точки Z\boldsymbol Z до нуля (оно уже встречалось в гл. 19 при классификации).

А почему бы не сложить квадраты?

Наивная идея: сложить S12/DS1+⋯+Sp2/DSpS_1^2/\mathsf DS_1 + \dots + S_p^2/\mathsf DS_p и сравнить с χp2\chi^2_p. Это верно, только если компоненты независимы. Когда признаки связаны (а верхнее и нижнее давление, конечно, связаны), такая сумма при верной гипотезе имеет другой закон, и уровень значимости «уплывает». Проверь сам:

Загрузка редактора…

По кирпичикам: при ρ=0,8\rho = 0{,}8 точки шума вытянуты вдоль диагонали. Наивная сумма квадратов «не знает» об этом и считает точку на диагонали далёкой, хотя для такого облака она обычная, — и гипотеза отвергается чаще, чем обещано. Поставь rho = 0 — и оба способа совпадут.

Проверка

Сколько степеней свободы у предельного закона χ2\chi^2 для статистики S∗S^*, если наблюдения — трёхмерные векторы (p=3p = 3)?

Где это работает

Весь остальной текст главы — три применения одного плана:

ПараграфСтатистика S\boldsymbol SКомпонентыЧто нужно от распределения
§2знаки ∑sign⁡Xij\sum\operatorname{sign}X_{ij}одномерный критерий знаковтолько медианы 0
§2знаковые ранги ∑Rijsign⁡Xij\sum R_{ij}\operatorname{sign}X_{ij}критерий Уилкоксонацентральная симметрия
§3суммы рангов второй выборкиУилкоксон — Манн — Уитнинезависимость выборок

В каждом случае меняется только «улика» S\boldsymbol S и формула для V^\hat{\boldsymbol V}, а сама схема — та же.

Смысл по-пацански: выучил один приём — получил три критерия. Это и есть та «наиболее полезная часть знаний», о которой говорит Кант в эпиграфе.

Посмотри, как ведут себя критерии при верной гипотезе: поставь сдвиг 0 — столбики должны быть около 5 %. Потом сдвинь — это уже мощность:

Многомерные критерии сдвига: уровень и мощность

S* (знаки)45 %T* (знаковые ранги)71 %Хотеллинг G76 %знаки по осям, Бонф.24 %ранги по осям, Бонф.42 %5 %100 %

400 повторений, уровень 0,05; доля отклонений гипотезы = мощность (при сдвиге 0 — фактический уровень, пунктир 5 %). «По осям, Бонф.» — наивная стратегия: одномерный критерий по каждой координате на уровне 0,025, отвергаем, если сработал хоть один. Сдвиг в направлении −30° при ρ = 0,5 идёт «поперёк» корреляции — тут многомерные критерии выигрывают у покоординатных почти вдвое; поставь 45° (вдоль корреляции) — и выигрыш пропадает: многомерный критерий учитывает, что такой сдвиг похож на обычный совместный разброс.

Проверь себя

Тест

Зачем в статистике S* = Sᵀ(nV̂)⁻¹S стоит обратная матрица ковариаций, а не единичная?

Тест

Какое требование к матрице V обязательно в плане построения критерия?
Обновлено