Skip to Content

§2. Медианы неизвестны и неравны

Статистическая модель

Имеется две группы наблюдений: X1,…,XnX_1, \dots, X_n и Y1,…,YmY_1, \dots, Y_m:

Xi=μ1+σ1εi,i=1,…,n;Yj=μ2+σ2εj′,j=1,…,m;X_i = \mu_1 + \sigma_1\varepsilon_i, \quad i = 1, \dots, n; \qquad Y_j = \mu_2 + \sigma_2\varepsilon_j', \quad j = 1, \dots, m;

где μ1\mu_1 и μ2\mu_2 — неизвестные медианы совокупностей (мешающие параметры), σ1\sigma_1 и σ2\sigma_2 — неизвестные (интересующие нас) параметры масштаба, εi\varepsilon_i и εj′\varepsilon_j' — случайные ошибки.

Допущения те же, что и в §1.

Для проверки гипотезы H0 ⁣:σ1=σ2H_0\colon \sigma_1 = \sigma_2 используется следующий критерий.

Смысл по-пацански: теперь районы стоят у разных столбов, и где эти столбы — нам неизвестно и неинтересно. Хотим сравнить только разброс. Значит, нужна статистика, которой плевать, где столб.

Свободный от распределения похожий на ранговый критерий Мозеса

  1. Задать целое k≥2k \ge 2 и случайным образом разбить каждую из групп наблюдений на n′=[n/k]n' = [n/k] и m′=[m/k]m' = [m/k] подгрупп размера kk соответственно (здесь [⋅][\cdot] — целая часть числа). Все не вошедшие в подгруппы наблюдения отбросить.
  2. Обозначить через X1r,…,XkrX_{1r}, \dots, X_{kr} kk наблюдений, попавших в rr-ю подгруппу для XX, r=1,…,n′r = 1, \dots, n', а через Y1s,…,YksY_{1s}, \dots, Y_{ks} — kk наблюдений, попавших в ss-ю подгруппу для YY, s=1,…,m′s = 1, \dots, m'.
  3. Подсчитать C1,…,Cn′C_1, \dots, C_{n'} по формулам
Cr=∑t=1kXtr2−1k(∑t=1kXtr)2,r=1,…,n′.C_r = \sum_{t=1}^kX_{tr}^2 - \frac1k\Bigl(\sum_{t=1}^kX_{tr}\Bigr)^2, \quad r = 1, \dots, n'.
  1. Подсчитать D1,…,Dm′D_1, \dots, D_{m'} по формулам
Ds=∑t=1kYts2−1k(∑t=1kYts)2,s=1,…,m′.D_s = \sum_{t=1}^kY_{ts}^2 - \frac1k\Bigl(\sum_{t=1}^kY_{ts}\Bigr)^2, \quad s = 1, \dots, m'.
  1. Применить к C1,…,Cn′C_1, \dots, C_{n'} и D1,…,Dm′D_1, \dots, D_{m'} критерий ранговых сумм Уилкоксона — Манна — Уитни (см. §5 гл. 14).

Если H0H_0 не выполняется, например, σ1<σ2\sigma_1 < \sigma_2, то величины DsD_s имеют тенденцию превосходить величины CrC_r. Это приводит к увеличению рангов DsD_s и, как следствие, к большим значениям статистики критерия ранговых сумм.

По кирпичикам: Cr=∑t(Xtr−X‾r)2C_r = \sum_t(X_{tr} - \overline X_r)^2 — сумма квадратов отклонений от среднего своей подгруппы (это та же формула, раскрытая). Сдвинь все XX на константу — каждое отклонение от среднего не изменится. Поэтому CrC_r и DsD_s не зависят от μ1\mu_1 и μ2\mu_2, а только от разброса: CrC_r распределены как σ12⋅(что-то)\sigma_1^2\cdot(\text{что-то}), DsD_s — как σ22⋅(то же самое)\sigma_2^2\cdot(\text{то же самое}). Дальше — обычная двухвыборочная задача о сдвиге для логарифмов log⁡C\log C и log⁡D\log D, а её решает Уилкоксон.

Смысл по-пацански: раздели каждый район на бригады по kk человек и в каждой бригаде померь, насколько пацаны разношёрстны между собой. Где стоит столб района — уже неважно: разношёрстность внутри бригады от столба не зависит. Теперь сравни бригады чужих с бригадами наших — обычным ранговым критерием.

Оценка отношения коэффициентов масштаба

В случае невыполнения H0H_0 представляет интерес величина γ=σ2/σ1\gamma = \sigma_2/\sigma_1. Для её оценивания Г. Шорак в 1969 г. предложил следующую процедуру.

  1. Вычислить n′m′n'm' отношений Ds/CrD_s/C_r, r=1,…,n′r = 1, \dots, n', s=1,…,m′s = 1, \dots, m'.
  2. Обозначить через Q(1)≤⋯≤Q(n′m′)Q_{(1)} \le \dots \le Q_{(n'm')} упорядоченные значения отношений Ds/CrD_s/C_r.
  3. Взять в качестве оценки
γ^={Q(l+1)1/2при n′m′=2l+1,(Q(l)Q(l+1))1/4при n′m′=2l.\hat\gamma = \begin{cases}Q_{(l+1)}^{1/2} & \text{при } n'm' = 2l + 1,\\ \bigl(Q_{(l)}Q_{(l+1)}\bigr)^{1/4} & \text{при } n'm' = 2l.\end{cases}

(У Лагутина в нечётном случае напечатано Q(l)Q_{(l)}; медиана 2l+12l + 1 чисел — это (l+1)(l + 1)-е по порядку.)

По кирпичикам: Ds/CrD_s/C_r — оценка отношения дисперсий σ22/σ12\sigma_2^2/\sigma_1^2. Медиана всех таких отношений — устойчивая оценка этого отношения (по духу — как оценка Ходжеса — Лемана сдвига через медиану попарных разностей из гл. 14, только для логарифмов). Корень превращает отношение дисперсий в отношение масштабов. При чётном числе отношений медиана берётся как среднее геометрическое двух центральных — отсюда корень четвёртой степени из произведения.

Пример 2. Мигрени без предположения о равенстве медиан

Применим критерий Мозеса к данным из примера 4 гл. 23. Сравним рассеяния измерений в группах I и II по компоненте XX без предположения о равенстве медиан совокупностей (использовавшегося в примере 1 ранее).

Если задать k=8k = 8, то в первой выборке размера n=41n = 41 потребуется отбросить всего одно наблюдение (n′=5n' = 5), а во второй выборке размера m=58m = 58 — два наблюдения (m′=7m' = 7). Для выбора номеров отбрасываемых наблюдений у Лагутина использовалась таблица равномерных случайных чисел T1, читаемая по строкам: 10, 09, 73, 25, … В соответствии с ними в первой выборке отброшен элемент с номером 10, а во второй — с номерами 9 и 25 (число 73 больше m=58m = 58 — его игнорируем).

Далее оставшиеся наблюдения группы I были случайным образом разбиты на подгруппы размера 8. Это удобно делать так: продолжаем считывать таблицу T1; первую цифру каждого числа принимаем за номер подгруппы, в которую отправляется очередной элемент выборки (ноль и цифры больше n′=5n' = 5 игнорируем); заполненная подгруппа выбывает из розыгрыша. Аналогично разбиваются на m′=7m' = 7 подгрупп наблюдения группы II.

По кирпичикам: зачем такие сложности со случайными числами? Чтобы разбиение не зависело от самих данных и от желаний исследователя. Если подгруппы подбирать «по вкусу», можно получить любой результат — см. комментарий 2.

Результаты разбиения (рис. 1 у Лагутина) и соответствующие CrC_r, DsD_s:

Группа IC1C_1C2C_2C3C_3C4C_4C5C_5
33,523,020,797,5106,0
Группа IID1D_1D2D_2D3D_3D4D_4D5D_5D6D_6D7D_7
4,00,53,44,96,54,410,0

Видим, что все CrC_r больше любого из DsD_s. При справедливости гипотезы H0H_0 все C125=792C_{12}^5 = 792 взаимных расположений пяти CC и семи DD равновероятны, так что вероятность этого равна 1/792≈0,00131/792 \approx 0{,}0013 (у Лагутина — «менее 0,001»; на вывод это не влияет: гипотеза отвергается на уровне 0,01). Таким образом, приходим к тому же выводу, что и в примере 1: рассеяние в группе I по компоненте XX значимо больше, чем в группе II.

Проверка

Сколько всего равновероятных при H0H_0 взаимных расположений пяти величин CrC_r и семи величин DsD_s?

Путём написания простой программы для процедуры Шорака у Лагутина было подсчитано значение оценки для «отношения разбросов» 1/γ=σ1/σ21/\gamma = \sigma_1/\sigma_2, равное 3,112. Наш пересчёт по тому же разбиению даёт 3,1223{,}122: отношений 5⋅7=355\cdot7 = 35, медиана — 18-е по порядку, Q(18)=10,0/97,5≈0,1026Q_{(18)} = 10{,}0/97{,}5 \approx 0{,}1026, и 1/0,1026≈3,1221/\sqrt{0{,}1026} \approx 3{,}122.

Смысл по-пацански: у настоящих больных разброс длительности приступа втрое больше, чем у «размноженных». Это и есть след подделки: копии с лёгким шумом не могут воспроизвести живое разнообразие.

Критерий Мозеса и оценка Шорака

110100● C (группа I) ■ D (группа II); шкала логарифмическая
n′ = 5, m′ = 7
C = 33,5; 23,0; 20,7; 97,5; 106,0
D = 4,0; 0,5; 3,4; 4,9; 6,5; 4,4; 10,0
U = 0,0; P(U ≤ 0,0) = 0,0013; двусторонний p = 0,0025 → разбросы различаются
γ̂ = σ₂/σ₁ = 0,320, 1/γ̂ = σ₁/σ₂ = 3,122

Каждая подгруппа из k наблюдений превращается в одно число — сумму квадратов отклонений от своего среднего (Cᵣ для группы I, Dₛ для группы II). Сдвиг медиан на эти числа не влияет, поэтому равенство медиан не требуется. Затем Cᵣ и Dₛ сравниваются критерием Уилкоксона — Манна — Уитни: U — число пар (r, s) с Cᵣ < Dₛ. При разбиении из книги все C больше всех D, U = 0, и точная вероятность этого при H₀ равна 1/C(12, 5) = 1/792 ≈ 0,0013 (у Лагутина — «менее 0,001»). Оценка Шорака: γ̂ — корень из медианы всех отношений Dₛ/Cᵣ; сейчас 1/γ̂ = 3,122 (в книге 3,112).

Посчитай сам — критерий Мозеса и оценку Шорака по разбиению из книги:

Загрузка редактора…

Комментарии

1. Г. Шорак рекомендует выбирать размер подгрупп kk как можно больше (но не более 10), однако не делая n′n' и m′m' настолько малыми, что распределение соответствующей статистики критерия ранговых сумм Уилкоксона — Манна — Уитни не сможет обеспечить разумный уровень значимости. Размер подгрупп kk надо выбирать, учитывая только размеры выборок nn и mm. Холлендер и Вулф предостерегают: неверно подбирать различные значения kk до тех пор, пока не получится значимый результат, — такой подход делает незаконными все выводы.

По кирпичикам: большое kk — каждая CrC_r точнее оценивает разброс, но подгрупп мало. При n′=m′=2n' = m' = 2 всего C42=6C_4^2 = 6 расположений, минимальный достижимый двусторонний уровень — 2/62/6: значимости не получить никогда. Маленькое kk — подгрупп много, но каждая CrC_r «шумная».

2. У критерия Мозеса есть недостаток: два человека, обрабатывая одни и те же данные, могут получить различные выводы при одном и том же уровне значимости α\alpha. Эта возможность возникает из-за случайности процесса разбиения на подгруппы. Иными словами, повторное применение критерия Мозеса к тем же данным, но с другим разбиением на подгруппы, может привести к противоположным выводам. В связи с этим подчеркнём, что при использовании критерия допускается лишь одна чисто случайная группировка. Совершенно недопустимо манипулировать группировками для достижения значимого результата!

Смысл по-пацански: перетасовать бригады, пока «не сойдётся», — это напёрсточник, а не статистика. Жребий бросают один раз, и до того, как посмотрели на результат.

Переключи виджет на «300 разбиений»: на наших данных разница в разбросе настолько велика, что почти любое разбиение даёт значимый результат, но оценка Шорака гуляет от 2,3 до 4,5, — а на данных «пограничных» доля противоположных выводов может быть очень заметной.

Критерий Мозеса зависит от жребия

2,264,46оценка σ₁/σ₂

Одни и те же данные (признак X, группы I и II), 300 разных случайных разбиений на подгруппы по k = 8. Гистограмма — оценки Шорака σ₁/σ₂; они разбросаны от 2,26 до 4,46. При 0,7 % разбиений критерий Мозеса НЕ отвергает H₀ на уровне 0,05. Это и есть недостаток из комментария 2: два честных исследователя могут получить разные выводы, а нечестный — перебирать разбиения, пока не выйдет «нужное». Допустима лишь одна чисто случайная группировка! Подвигай k: при малых k (много подгрупп) результат устойчивее, при больших — подгрупп мало, и уровень 5 % может стать недостижимым.

3. М. Холлендер в 1968 г. показал, что при выполнении гипотезы H0H_0 и симметричности распределения статистика критерия Мозеса и статистика критерия ранговых сумм Уилкоксона — Манна — Уитни некоррелированы и асимптотически независимы. Это влечёт те же заключения, что и в комментарии 2 из §1: при совместном применении на уровнях α1\alpha_1 и α2\alpha_2 общий уровень приближённо α1+α2−α1α2\alpha_1 + \alpha_2 - \alpha_1\alpha_2.

4. Известны и другие критерии для проверки гипотезы H0H_0, применимые для выборок большого размера. Так, Холлендер и Вулф приводят критерий Миллера, основанный на методе «складного ножа» (jackknife). Он обладает более высокой эффективностью сравнительно с критерием Мозеса, но свободен от распределения лишь асимптотически.

Мозес против Ансари — Брэдли

В моделировании ниже поставь отношение масштабов 2 и двигай мешающий сдвиг медиан: при сдвиге 0 Ансари — Брэдли немного мощнее (он использует все наблюдения, а не суммы по подгруппам), но уже при сдвиге в 2σ его мощность падает вдвое, а при 3σ — почти до нуля. Мощность Мозеса от сдвига не зависит вовсе.

Критерии масштаба: Ансари — Брэдли, Мозес, F

XYАнсари — Брэдли78,8 %Мозес (k = 5)73,5 %F-критерий95,8 %5,0 %

400 повторений, двусторонние критерии уровня 0,05. При σ₂/σ₁ = 1 столбики — фактический уровень (должен быть около 5 %), иначе — мощность. Подвинь мешающий сдвиг: мощность Ансари — Брэдли тает (он предполагает равные медианы), а Мозес её не замечает — суммы квадратов внутри подгрупп от сдвига не зависят. Включи закон Лапласа или Коши при σ₂/σ₁ = 1: классический F-критерий (отношение выборочных дисперсий) начинает «видеть» несуществующую разницу — он держит уровень только для нормальных данных. Ранговые критерии свободны от распределения.

Смысл по-пацански: Ансари — Брэдли — острый, но капризный инструмент: работает, только когда центры совпадают. Мозес — грубее, зато ему всё равно, где центр. Знаешь, что медианы равны, — бери Ансари — Брэдли. Не уверен — Мозес.

Проверь себя

Тест

Почему величины Cᵣ и Dₛ в критерии Мозеса не зависят от медиан μ₁ и μ₂?

Тест

Исследователь получил незначимый результат критерия Мозеса и решил перебить данные на подгруппы заново. Что можно сказать?

Тест

Что оценивает каждое отношение Dₛ/Cᵣ в процедуре Шорака?
Обновлено