Глава 2. Математическое ожидание и дисперсия: центр и разброс

В прошлой главе мы описывали случайную величину целиком — функцией распределения $F_\xi(x)$. Это полная инфа, но её часто слишком много. На практике хочется двух коротких цифр: где центр (вокруг чего крутятся значения) и насколько сильно их колбасит вокруг этого центра. Первую цифру даёт математическое ожидание, вторую — дисперсия. Разберём обе, не спеша и с подробным разбором каждой формулы — тут важно не проскочить.

Матожидание — это точка равновесия

Заходим через физику, так нагляднее. Представь тонкий невесомый стержень (это наша числовая прямая), а на нём в точках $x_k$ насажены грузики массы $m_k$ — чем вероятнее значение, тем тяжелее грузик. Вопрос: в какой точке стержень подпереть пальцем, чтобы он не перевесил ни влево, ни вправо, а замер в равновесии?

Эта точка равновесия называется центром масс, и для случайной величины она и есть математическое ожидание. Тяжёлые грузики (частые значения) тянут точку к себе, лёгкие (редкие) — почти нет. Поиграй сам: двигай грузики и их веса, смотри, куда уезжает точка равновесия.

Прочувствовал? Теперь то же самое — формулой.

Формула матожидания: разбираем по кирпичикам

Определение (для дискретной величины). Если $\xi$ принимает значения $x_1, x_2, \dots$ с вероятностями $p_1, p_2, \dots$, то математическое ожидание — это

Не пугайся, сейчас разложим каждый значок:

• $\sum_k$ (сигма) — это просто «сложи всё, что дальше, перебрав все варианты $k$». Значок суммы, не более.
• $x_k$ — само значение (например, сколько телефонов отжал: 0, 1, 2, …).
• $p_k$ — вероятность именно этого значения.
• $x_k\, p_k$ — значение, взвешенное на свой шанс. Редкое значение входит слабо, частое — сильно.

Итог: складываем все значения, но не абы как, а с весом их вероятностей. Это не простое среднее по значениям — это взвешенное среднее, где вес каждого значения = его вероятность. Ровно та же точка равновесия, что и в виджете: тяжёлые (вероятные) значения перетягивают центр к себе.

Разберём на живом примере — обычный кубик. Значения $1,2,3,4,5,6$, у каждого вероятность $1/6$:

Обрати внимание на прикол: среднее вышло $3{,}5$, хотя такой грани на кубике нет. Матожидание — это не «самое частое» и не «обязательно возможное» значение, это центр тяжести. Проверь на коде — накидаем кубик много раз и усредним:

Среднее по реальным броскам липнет к $3{,}5$ — как и обещала формула.

Пример: Бернулли

Для бернуллиевской величины $\zeta$ (выгорело/спалился) значения всего два — $1$ с вероятностью $p$ и $0$ с вероятностью $1-p$. Подставляем в формулу (1):

Разбор: ноль (спалился) с весом $(1-p)$ даёт ноль, единица (выгорело) с весом $p$ даёт $p$. Сумма — $p$. По-житейски: если из сотни дел в среднем выгорает доля $p$, то средний «улов» за одну попытку и есть $p$. Логично до безобразия.

Матожидание для непрерывных: сумма превращается в интеграл

Когда у величины есть плотность $p_\xi(x)$ (значения размазаны сплошняком, а не сидят в отдельных точках), формула та же по духу, но сумма становится интегралом:

Разбор по кирпичикам — и ты увидишь, что это буквально формула (1), только «размазанная»:

• $\int$ — это «непрерывная сумма» по всем значениям $x$ сразу (интеграл = предел суммы, когда кусочки бесконечно мелкие).
• $x$ — значение (как $x_k$ раньше).
• $p_\xi(x)\, dx$ — вероятность попасть в крошечный кусочек шириной $dx$ около точки $x$ (аналог веса $p_k$).
• $x \cdot p_\xi(x)\, dx$ — значение, взвешенное на вероятность оказаться рядом с ним.

Складываем (интегрируем) по всей прямой — снова получаем взвешенное среднее, ту же точку равновесия. Дискретный и непрерывный случай — это одна и та же идея, просто в одном сумма, в другом интеграл.

Пример: показательное

Для показательной величины $\tau$ (время до события) интеграл даёт красивый ответ:

Интуиция важнее выкладки: параметр $\lambda$ — насколько часто случается событие. Чем $\lambda$ больше, тем событие происходит чаще, тем меньше в среднем ждёшь. При $\lambda = 2$ среднее ожидание $1/2$. Помнишь, в прошлой главе мы сэмплили показательное и среднее выходило около $1/\lambda$? Вот теперь ты знаешь, откуда бралась эта цифра.

Дисперсия — насколько всё колбасит

Матожидание сказало нам, где центр. Но два расклада могут иметь один центр и вести себя совершенно по-разному: у одного значения жмутся вплотную к среднему, у другого — разлетаются широко. Нужна вторая цифра — мера разброса. Это дисперсия.

Определение.

Это, пожалуй, самая важная для понимания формула главы, поэтому разжуём её медленно, изнутри наружу:

• $\xi - \mathbf{M}\xi$ — отклонение значения от центра: на сколько конкретный исход промахнулся мимо среднего.
• $(\dots)^2$ — возводим отклонение в квадрат. Зачем? По двум причинам сразу. Первая: чтобы минусы не гасили плюсы. Значения ниже среднего дают отрицательные отклонения, выше — положительные; если их просто усреднить, они взаимно сократятся в ноль (центр же посередине). Квадрат делает всё положительным — теперь не сокращается. Вторая: квадрат сильнее наказывает большие промахи — отклонение в 2 раза даёт вклад в 4 раза. Крупные выбросы весят больше.
• $\mathbf{M}(\dots)$ — усредняем эти квадраты отклонений по всем значениям (тем же матожиданием, формула 1 или 2).

Итог человеческим языком: дисперсия — это средний квадрат отклонения от центра. Большая дисперсия — значения гуляют далеко от среднего, движуха непредсказуемая. Маленькая — всё жмётся к центру, расклад стабильный.

Один нюанс: из-за квадрата единицы измерения раздуваются (если $\xi$ в телефонах, то $\mathbf{D}\xi$ в «телефонах в квадрате» — бессмыслица). Поэтому часто берут стандартное отклонение — корень из дисперсии $\sqrt{\mathbf{D}\xi}$: он возвращает разброс в нормальные единицы и читается как «типичный промах мимо среднего».

Покрути $\sigma$ в виджете распределений — это и есть стандартное отклонение: чем оно больше, тем шире расползается колокол вокруг центра.

Формула для счёта дисперсии

Считать дисперсию прямо по определению (3) муторно. Есть равенство попроще, которое даёт то же самое:

Читается так: «средний квадрат минус квадрат среднего». То есть: возьми среднее от $\xi^2$ (сначала возводишь в квадрат, потом усредняешь) и вычти из него квадрат среднего $\xi$ (сначала усредняешь, потом возводишь в квадрат). Порядок действий разный — и разница между ними и есть разброс. Считать по (4) обычно быстрее, чем по (3), а результат тот же.

Пример: дисперсия Бернулли

Красивый трюк. У Бернулли $\zeta$ принимает только $0$ и $1$, а для них $\zeta^2 = \zeta$ (ведь $0^2=0$ и $1^2=1$). Значит $\mathbf{M}\zeta^2 = \mathbf{M}\zeta = p$. Подставляем в (4):

А теперь самое интересное — вдумайся в результат $p(1-p)$:

• при $p = 0{,}5$ разброс максимален ($0{,}25$) — полная неопределённость, 50 на 50, гадать бесполезно;
• при $p = 0$ или $p = 1$ разброс равен нулю — исход предрешён, колебаться нечему.

Это глубокая мысль: неопределённость (а значит, и разброс) максимальна, когда шансы равны, и исчезает, когда всё решено заранее.

Занимательный парадокс: среднего может не быть вообще

И напоследок — вынос мозга в стиле «а так вообще бывает?». Есть распределение Коши с плотностью $p_\xi(x) = \dfrac{1}{\pi(1+x^2)}$. Оно симметрично относительно нуля — то есть на глаз центр очевидно в нуле. Но если честно посчитать интеграл (2) для матожидания, он разбегается в бесконечность — и слева, и справа. Получается неопределённость «бесконечность минус бесконечность», и математическое ожидание Коши не существует.

Мораль: не у всякой случайной величины есть среднее. Иногда центр вроде бы виден глазом, а формула его взять не может — значения слишком часто улетают в дикую даль, и «точка равновесия» ускользает. Держи в голове: матожидание — штука мощная, но не всесильная.

Проверь себя

Реши в уме и впиши ответ: