Глава 6. Сравнение оценок
Если у тебя спросят: что полезнее, солнце или месяц? — ответствуй: месяц. Ибо солнце светит днём, когда и без того светло, а месяц — ночью.
— Козьма Прутков
Здесь начинается часть II — оценивание параметров. До этого мы сами штамповали случайные числа по известным законам. Теперь всё наоборот: данные уже есть, закон известен с точностью до параметра, и надо этот параметр вычислить по данным. Например, кто-то загадал число , раскидал точки по отрезку и показал тебе только точки. Чему равно ?
Формул-угадаек можно придумать сколько угодно. В этой главе разбираемся, какая из них лучше и что вообще значит «лучше».
Параграфы
- §1. Статистическая модель — что такое параметр, модель и оценка; первая угадайка правого края отрезка.
- §2. Несмещённость и состоятельность — оценка не должна врать систематически и должна уточняться с ростом выборки.
- §3. Функции риска — штраф за промах, квадратичный риск и три способа сравнить две кривые.
- §4. Минимаксная оценка в схеме Бернулли — оценка Ходжеса — Лемана, которая по теории лучше частоты, а на практике выигрывает только в половине случаев.
Практика
Что уносим из главы
Оценка — это формула от выборки, а значит, тоже случайная величина со своим законом. Хорошая оценка в среднем попадает в цель (несмещённость), с ростом выборки сжимается к цели (состоятельность) и разбросана поменьше (малый риск). Но «меньше риск» — это сравнение функций, и тут нужно сначала договориться, как сравнивать: по худшему случаю, в среднем или в узком классе оценок.