П8. Преобразование плотности случайного вектора

Случайный вектор $\boldsymbol\xi = (\xi_1, \dots, \xi_k)$ (его распределение) имеет плотность $p_{\boldsymbol\xi}(\boldsymbol x) \ge 0$, где $\boldsymbol x = (x_1, \dots, x_k)$, если для любого борелевского множества $B \in \mathbb R^k$

В частности, совместная функция распределения компонент $\boldsymbol\xi$

Плотность $p_{\boldsymbol\xi}(\boldsymbol x)$ можно найти из равенств (верных почти всюду)

Плотность подвектора $(\xi_1, \dots, \xi_j)$, $1 \le j < k$, вычисляется интегрированием $p_{\boldsymbol\xi}(\boldsymbol x)$ по координатам $x_{j+1}, \dots, x_k$:

По кирпичикам: плотность — это «вероятность на единицу объёма». Вероятность попасть в маленький кубик со стороной $\delta$ около точки $\boldsymbol x$ примерно равна $p_{\boldsymbol\xi}(\boldsymbol x)\delta^k$. А «забыть» про часть координат — значит сложить (проинтегрировать) вероятности по всем их значениям: так из совместной плотности получаются маргинальные.

Смысл по-пацански: плотность — это «сколько народу на квадратный метр» в данном месте двора. Хочешь знать, сколько народу стоит в данной полосе по одной координате, неважно где по другой, — суммируй вдоль полосы.

Формула преобразования плотности

Допустим, что соотношения $y_i = \varphi_i(x_1, \dots, x_k)$, $i = 1, \dots, k$, задают взаимно однозначное дифференцируемое отображение $\boldsymbol y = \boldsymbol\varphi(\boldsymbol x)$ некоторой области из $\mathbb R^k$ на другую. Обозначим через $\boldsymbol\varphi^{-1}$ обратное отображение и положим

— якобиан отображения $\boldsymbol\varphi^{-1}$ (определитель — см. П10).

Формула преобразования плотности. Плотность распределения случайного вектора $\boldsymbol\eta = \boldsymbol\varphi(\boldsymbol\xi)$ вычисляется по формуле

Следствие. Если $\eta = a + b\xi$, то $p_\eta(y) = \dfrac1{|b|}\,p_\xi\Bigl(\dfrac{y - a}b\Bigr)$ при $b \ne 0$.

По кирпичикам: вероятность — «количество песка» — при отображении не меняется: сколько песка было в кусочке около $\boldsymbol x$, столько и окажется в образе этого кусочка около $\boldsymbol y$. Но объём кусочка меняется — в $|J|^{-1}$ раз, — и чтобы песка осталось столько же, плотность надо умножить на $|J(\boldsymbol y)|$. Где отображение сжимает (кучкует) точки — плотность растёт, где растягивает — падает.

Смысл по-пацански: пересадили пацанов из большого спортзала в маленький класс — народу столько же, а плотность выше во столько раз, во сколько класс меньше. Якобиан — это и есть «во сколько раз меньше».

Примеры в виджете ниже — пять преобразований с формулами:

• $\eta = -\ln\xi$ для равномерной $\xi$ даёт показательный закон — так работает метод обратной функции (гл. 4);
• $\eta = \xi^2$ для нормальной $\xi$ — закон $\chi^2_1$ (отображение не взаимно однозначно: две ветви $\pm\sqrt y$, их вклады складываются);
• $\eta = \operatorname{tg}(\pi(\xi - \frac12))$ — закон Коши;
• $\eta = e^\xi$ — логнормальный закон.

Пример: метод Бокса — Мюллера

Двумерный пример — тот самый датчик нормальных чисел из гл. 4. Пусть $(R, \Theta)$: $\Theta$ равномерна на $[0, 2\pi)$, $R^2/2$ имеет показательный закон, и они независимы. Тогда $(X, Y) = (R\cos\Theta, R\sin\Theta)$ — пара независимых $\mathcal N(0, 1)$.

По кирпичикам: плотность пары $(R, \Theta)$ равна $re^{-r^2/2}\cdot\frac1{2\pi}$. Якобиан обратного перехода от $(x, y)$ к полярным координатам $(r, \theta)$ равен $1/r$. По формуле $p_{(X,Y)}(x, y) = \frac1r\cdot re^{-r^2/2}\frac1{2\pi} = \frac1{2\pi}e^{-(x^2+y^2)/2}$ — произведение двух стандартных нормальных плотностей. Значит, $X$ и $Y$ независимы и нормальны.

Смысл по-пацански: Бокс и Мюллер — это как раздать пацанам случайный азимут и случайную дальность броска так, чтобы в проекции на две улицы вышло ровно по Гауссу. Якобиан $1/r$ — поправка на то, что дальнее кольцо двора длиннее ближнего.

Проверь себя