§3. Критерий знаковых рангов Уилкоксона: не только знак, но и величина

Пусть кроме допущения Д6 выполнено условие

• Д7. Случайные величины $\varepsilon_1, \dots, \varepsilon_n$ имеют одинаковое распределение, симметричное относительно нуля: $F_{\varepsilon_1}(-x) = 1 - F_{\varepsilon_1}(x)$ для всех $x$.

Для проверки $H_0'$ против $H_3'$ (§1) совершим следующие шаги.

1. Зададим уровень значимости $\alpha$.
2. Вычислим $Z_i = Y_i - X_i$, $i = 1, \dots, n$, и упорядочим $|Z_1|, \dots, |Z_n|$ по возрастанию. Пусть $R_i$ — ранг (порядковый номер) величины $|Z_i|$.
3. Положим $U_i = I_{\{Z_i > 0\}}$.
4. В качестве статистики критерия знаковых рангов возьмём $T = R_1U_1 + \dots + R_nU_n$ и подсчитаем её значение $t$.

По кирпичикам: выстраиваем приращения по модулю — от самого маленького изменения к самому большому. Каждому даём номер-ранг. Складываем номера только у положительных. Если эффекта нет, то по симметрии плюс и минус равновероятны на каждом месте, и $T$ болтается около половины суммы всех рангов, $n(n + 1)/4$. Если же большие изменения — в основном плюсы, $T$ большое.

Смысл по-пацански: критерий знаков считает «у скольких стало лучше». Знаковые ранги ещё и спрашивают: «а у кого стало сильно лучше — у плюсов или у минусов?» Девять мелких плюсов и два огромных минуса — это совсем не то же, что девять огромных плюсов и два мелких минуса.

Малые и большие выборки

Малые выборки. При $n \le 15$ отвергнем $H_0'$, если $t \ge t_\alpha$, где критическое значение берётся из таблиц (у Лагутина — ссылка [88], таблица A.4). Закон $T$ при $H_0'$ легко найти и точно: каждый из $2^n$ наборов знаков равновероятен, а $T$ — сумма какого-то подмножества чисел $1, \dots, n$. Виджет ниже так и считает.

Большие выборки. Для $n > 15$ используем стандартизованную статистику

распределение которой сходится к $\mathcal N(0, 1)$ при $n \to \infty$, если верна $H_0'$ и выполнены Д6–Д7 (задачи 4–6). Если $t^* \ge x_{1-\alpha}$, гипотеза отвергается.

Поправка. В 1974 году Р. Иман предложил аппроксимацию, значительно снижающую относительную ошибку для критических значений. Она использует линейную комбинацию нормальной и стьюдентовской квантилей:

Вычислим $z_\alpha = (x_{1-\alpha} + y_{1-\alpha})/2$, где $x_{1-\alpha}$ и $y_{1-\alpha}$ — квантили уровня $1 - \alpha$ закона $\mathcal N(0, 1)$ и распределения Стьюдента с $n - 1$ степенями свободы (§2 главы 11). Если $\tilde t^* \ge z_\alpha$, гипотеза $H_0'$ отвергается.

Совпадения. Нулевые $Z_i$ отбрасываем и уменьшаем $n$. Если среди ненулевых $|Z_i|$ есть равные, используем средние ранги, а дисперсию $\mathbf DT$ в (4) заменяем на

где $g$ — число групп совпадений, $l_k$ — количество элементов в $k$-й группе (несовпадающие наблюдения — группы размера 1, они ничего не добавляют).

Оценка и интервал

Оценка параметра. Когда $H_0'$ отвергается, оценкой сдвига $\theta$ можно взять медиану средних Уолша (§3 главы 8):

Доверительный интервал. Пусть $V_{(1)} \le \dots \le V_{(M)}$ — упорядоченные средние Уолша, $M = n(n + 1)/2$. Пара $(V_{(k_\alpha+1)}, V_{(M-k_\alpha)})$ образует приближённый интервал с коэффициентом доверия $1 - 2\alpha$, где $k_\alpha$ — целая часть числа

а $0{,}5$ — поправка на непрерывность (§2). Для $n \le 15$ интервал строится по точным таблицам.

Проверка симметрии

Прежде чем применять критерий знаковых рангов, следует удостовериться в справедливости Д7. Простой графический метод основан на сходимости выборочных квантилей к теоретическим (§3 главы 7). Для симметричного относительно медианы закона $z_{1/2} - z_p = z_{1-p} - z_{1/2}$. Поэтому для порядковых статистик можно ожидать

и точки $(\xi_i, \eta_i)$ должны располагаться вблизи диагонали $y = x$.

Замечание 2. Условие строгой симметрии почти так же нереалистично, как предположение, что $Z_i$ в точности нормальны. Как правило, надёжно проверить симметрию можно лишь по выборке из нескольких сотен наблюдений. Иногда симметрия оправдана спецификой получения наблюдений: отклонения от медианы на любую величину влево и вправо одинаково вероятны. Довольно естественно она возникает в модели «контроль — обработка» (пример 1 главы 8). Но ещё раз: при совместной независимости выборок $X$ и $Y$ надо использовать не критерии этой главы, а методы главы 14.

Пример 2. Снова времена реакции

После отбрасывания $Z_{10} = 0$ остаётся $n = 11$ наблюдений: $-8, -7, 7, 10, 19, 19, 20, 23, 35, 45, 52$. Медиана $\mathrm{MED} = 19$. Выборка слишком мала для уверенного заключения, но диаграмма $(\xi_i, \eta_i)$, по-видимому, не противоречит симметрии (график справа в виджете ниже).

Упорядочим $|Z_i|$ и присвоим средние ранги совпадающим значениям:

Статистика $T = \sum R_iU_i = 61{,}5$. Среди $|Z_i|$ есть две группы совпадений по 2 элемента, поэтому по (6)

и по (4) $t^* \approx 2{,}54$. Положим $\alpha = 0{,}005$. По таблицам T2 и T4 (при $k = n - 1 = 10$) $z_\alpha = (2{,}576 + 3{,}169)/2 \approx 2{,}87$. По (5) $\tilde t^* = 3{,}14 > 2{,}87$, так что гипотеза $H_0'$ отвергается на уровне 0,005. Знаковые ранги дают гораздо более сильный вывод, чем знаки (3,3 %): они учли, что оба минуса — самые маленькие по модулю.

Оценка сдвига $W = 19{,}25$. На основе (7) строим 90%-й интервал $(V_{(15)}, V_{(52)}) = (7{,}5;\ 31)$, который несколько уже интервала $(7, 35)$ по критерию знаков. (Тонкость: $k_\alpha = 14$ получается, если под корнем в (7) взять дисперсию с поправкой на совпадения, 126,25. По формуле (7) как она напечатана выходит $13{,}998$, то есть $k_\alpha = 13$ и интервал $(V_{(14)}, V_{(53)}) = (7, 32)$. Виджет считает по (7) без поправки.)

Комментарии

1. Если в Д7 все $\varepsilon_i$ имеют одинаковое симметричное гладкое распределение (§1 главы 8), критерий знаковых рангов состоятелен против $H_3'\colon \theta > 0$.
2. Связь $T$ и $W$ такая же, как между $S$ и $\mathrm{MED}$. По задаче 1 при отсутствии нулей и совпадений среди $|Z_i|$ статистика $T = \sum_{i\le j}I_{\{(Z_i + Z_j)/2 > 0\}}$ — число положительных средних Уолша. Естественной оценкой будет такое $\hat\theta$, чтобы набор $Z_i' = Z_i - \hat\theta$ выглядел как выборка из закона с $\theta = 0$. Но при $\theta = 0$ распределение $T$ симметрично относительно $n(n + 1)/4$. Приходим к уравнению

Когда $\hat\theta$ равна медиане средних Уолша, происходит «перескок» через уровень $n(n + 1)/4$. 3. Интервал по (7) получается методом 1 из §3 главы 11, применённым к $g(\mathbf z, \theta) = \sum_{i\le j}I_{\{(z_i+z_j)/2>\theta\}}$.

Знаки или знаковые ранги?

Сравним критерии по чувствительности к сдвигу $H_3'$. Их относительная точность при больших $n$ совпадает с относительной асимптотической эффективностью (§4 главы 7) оценок $\mathrm{MED}$ и $W$. По теоремам 1 и 3 главы 8 на классе $\Omega_s$ гладких симметричных распределений

где $p(x)$ — плотность закона $F$. Для нормального закона $e_{\mathrm{MED},W} = 2/3 < 1$ (задача 1 главы 7 и вопрос 5 главы 8), для закона Лапласа $e_{\mathrm{MED},W} = 4/3 > 1$ (задача 1 главы 8).

Оказывается, чем «тяжелее» хвосты, тем предпочтительнее знаки по сравнению со знаковыми рангами. Для уточнения У. Ван Цвет в 1970 году предложил упорядочение симметричных распределений по весу хвостов. Перескажем его своими словами.

Пусть $F$ и $G$ из $\Omega_s$. Скажем, что хвосты $F$ «легче» хвостов $G$ ($F \preceq G$), если функция $G^{-1}(F(x))$ выпукла при $x \ge 0$. Это слабое упорядочение: $F \preceq F$, а из $F \preceq G$ и $G \preceq H$ следует $F \preceq H$. Если $F \preceq G$ и $G \preceq F$, законы называют эквивалентными — например, если они отличаются лишь масштабом ($F(x) = G(ax)$ даёт линейную, то есть одновременно выпуклую и вогнутую, функцию $G^{-1}(F(x)) = ax$). Смысл: приведём законы к одинаковой плотности в нуле. Если $F \preceq G$ и они не эквивалентны, то при больших $x$ выполнено $G^{-1}(F(x)) > x$, откуда $1 - F(x) < 1 - G(x)$: вероятность попадания наблюдения «на хвост» у $G$ больше.

Нетрудно проверить упорядочение

и доказывается, что для $F, G \in \Omega_s$ из $F \preceq G$ следует $e_{\mathrm{MED},W}(F) \le e_{\mathrm{MED},W}(G)$. Наш пересчёт по (8): равномерный — $1/3$, нормальный — $2/3$, Лаплас — $4/3$, Коши — $4/3$.

Смысл по-пацански: знаковые ранги верят величинам изменений. Пока хвосты лёгкие, величины — честная информация, и ранги выигрывают. Когда хвосты тяжёлые, огромные значения — это скорее шум, чем сигнал, и простой подсчёт плюсов оказывается не хуже.

Проверь себя