§2. Критерий Фридмана: ранжируем внутри каждой строки

Для проверки гипотезы

против альтернативы

применяется критерий Фридмана. Выполним следующие шаги.

1. Отдельно для каждого $i$-го блока (строки таблицы) ранжируем $k$ наблюдений внутри него от меньшего к большему. Обозначим через $Q_{ij}$ ранг $X_{ij}$ в совместной ранжировке $X_{i1}, \dots, X_{ik}$.
2. Для $j = 1, \dots, k$ положим

Здесь $Q_{\cdot j}$ — средний ранг по всем $n$ блокам наблюдений $j$-й обработки (столбца), $Q_{\cdot\cdot}$ — средний ранг по всей таблице. 3. В качестве статистики критерия Фридмана возьмём

Если $H_0$ верна, все $Q_{\cdot j}$ должны быть близки к $Q_{\cdot\cdot} = (k + 1)/2$. Если $\beta_j$ не равны, $Q_{\cdot j}$ различаются сильнее, и некоторые $(Q_{\cdot j} - Q_{\cdot\cdot})^2$ окажутся больше других — это даёт большие $F$.

По кирпичикам: в каждой строке ранги — это просто перестановка чисел $1, \dots, k$. Эффект блока $\alpha_i$ на ранги внутри строки не влияет вообще — он добавляет одно и то же число ко всей строке. Вот почему мешающий фактор исчезает.

Смысл по-пацански: в каждом блоке устраиваем мини-соревнование «кто первый, кто второй». Если обработки одинаковые, каждая побеждает и проигрывает примерно поровну. Если одна стабильно на первом месте — её сумма мест $T_j$ выбивается.

Малые и большие выборки

Малые выборки. $H_0$ отвергается, если $F$ превысит критическую границу из таблицы (у Лагутина — ссылка [88], таблица A.15: $k = 3$, $n \le 13$; $k = 4$, $n \le 8$; $k = 5$, $n \le 5$). Точный закон легко найти: все $(k!)^n$ наборов рангов равновероятны (вопрос 1).

Большие выборки. Если $H_0$ верна, $F$ при $n \to \infty$ сходится по распределению к $\chi^2_{k-1}$. Приближённый критерий уровня $\alpha$: отклонить $H_0$, если $f \ge z_{1-\alpha}$, где $z_{1-\alpha}$ — $(1 - \alpha)$-квантиль $\chi^2_{k-1}$ (таблица T3).

Поправка. Для небольших выборок приближение хи-квадрат неудовлетворительно. Так, при $\alpha = 0{,}01$ для $k = 6$ и $n = 6$ относительная погрешность ошибки I рода составляет 63 %. Поправка Р. Имана и Дж. Давенпорта (1980) снижает её в этом случае до 3 %. Положим

• $l = 0$, $m = 2$, если $7 < k < 20$, $n > 12$;
• $l = 1$, $m = k - 1$, если $k \le 7$, $n > 7$;
• $l = 1$, $m = (k - 1)(n - 1)$, если $k > 5$, $2 \le n \le 6$.

(Другие случаи — в руководстве [88]; виджет в них берёт $l = 1$, $m = k - 1$ и честно об этом пишет.) Введём статистику

Её приближённое критическое значение уровня $\alpha$ равно $(lz_{1-\alpha} + mf_{1-\alpha})/2$, где $z_{1-\alpha}$ и $f_{1-\alpha}$ — квантили $\chi^2_{k-1}$ (таблица T3) и закона Фишера — Снедекора $F_{k-1,(k-1)(n-1)}$ (таблица T5).

Совпадения. Если среди $x_{i1}, \dots, x_{ik}$ есть одинаковые значения, вычисляют средние ранги, а $F$ заменяют на

где $g_i$ — число групп совпадений в блоке $i$, $l_{im}$ — размер $m$-й группы; отличающиеся от других $x_{ij}$ внутри блока считаются группой размера 1.

Сравнение обработок

Чтобы узнать, какие обработки отличаются друг от друга, применяется приближённый критерий уровня $\alpha$: принять решение $\beta_u \ne \beta_v$, если

где $C_{k,\alpha}$ — $(1 - \alpha)$-квантиль распределения размаха $\xi_{(k)} - \xi_{(1)}$ выборки $(\xi_1, \dots, \xi_k)$ из $\mathcal N(0, 1)$:

(Мы пересчитали все значения численным интегрированием формулы $\mathbf P(\xi_{(k)} - \xi_{(1)} \le x) = k\int\varphi(z)[\Phi(z + x) - \Phi(z)]^{k-1}dz$ — совпадают.)

По кирпичикам: почему размах? Наибольшая из всех попарных разностей — это разность самого большого и самого маленького $T_j$. Если она не превысила границу, то и никакая другая не превысит. Значит, вероятность ложной тревоги хоть в одной паре равна вероятности того, что размах превысит границу, — отсюда и квантиль размаха.

Оценки контрастов

Обозначим через $\Delta_{uv} = \beta_u - \beta_v$ контраст эффектов обработок $u$ и $v$. В качестве первичной оценки возьмём

Поскольку $Z_{uv} = -Z_{vu}$, достаточно найти $k(k - 1)/2$ значений при $u < v$. Определим уточнённую оценку контраста

Уточнённые оценки не менее эффективны, чем первичные, и при этом согласованы (комментарий 4 в §2 главы 16). Их недостаток — зависимость $\tilde\Delta_{uv}$ от наблюдений из остальных $k - 2$ обработок.

Пример применения критерия Фридмана к экспериментальным данным — в задаче 1 (лабиринт для крыс, кроликов и кошек). Виджет открыт именно на ней:

Комментарии

1. Распределение $F$ при $H_0$ можно получить, опираясь на равновозможность всех $(k!)^n$ ранговых наборов. (Чему равна $\mathbf P(F \ge 4)$ при $k = 3$ и $n = 2$ — вопрос 1.)

2. П. Элтерен и Г. Нетер (1959) установили, что асимптотическая эффективность (для альтернатив сдвига) критерия Фридмана по отношению к $F$-критерию двухфакторного дисперсионного анализа (пример 1 ниже) равна

где $F_\varepsilon$ — закон ошибок $\varepsilon_{ij}$ из (1), $E(F_\varepsilon)$ задаётся формулой (11) главы 14. Некоторые значения:

(В книге для нормального закона при $k = \infty$ стоит 0,995 — это опечатка: множитель $k/(k + 1) \to 1$, и предел равен $E(\Phi) = 3/\pi \approx 0{,}955$. Остальные числа совпадают.)

Смысл по-пацански: ранжируя внутри блока из двух-трёх наблюдений, мы выбрасываем много информации — отсюда потеря при малых $k$. Чем больше обработок в блоке, тем ближе Фридман к Уилкоксону с его потерей всего 4,5 % на нормальных данных. А при тяжёлых хвостах (Лаплас) Фридман выигрывает уже с $k = 2$.

Пример 1. Двухфакторная модель для нормальных наблюдений

Допустим, ошибки $\varepsilon_{ij}$ из (1) распределены по закону $\mathcal N(0, \sigma^2)$. Тогда оптимальным для проверки $H_0$ (2) является $F$-критерий двухфакторного дисперсионного анализа, основанный на статистике

где

имеющей при $H_0$ распределение Фишера — Снедекора $F_{k-1,(n-1)(k-1)}$.

В задаче 2 предлагается доказать тождество

Оно показывает, что общая изменчивость распадается на части, обусловленные влиянием эффектов блоков и обработок, и часть, связанную с изменчивостью самих данных (замечание 1 главы 16). Проверим на данных задачи 1:

Обрати внимание: блоки (задания лабиринта) «съедают» больше изменчивости, чем обработки (виды животных). Если бы мы их не учли, остаток был бы гораздо больше, и разница между животными утонула бы в шуме.

Проверь себя