Математика

Вероятность и статистика

Школьные вероятности событий, средние и базовые характеристики случайных величин.

Как выбрать подходящий материал

  1. Школьные вероятности событий, средние и базовые характеристики случайных величин.
  2. Цепи Маркова и специальные вероятностные неравенства имеют отдельные темы.

47 формул

Формулы темы

Отрицательное биномиальное распределение

Отрицательное биномиальное распределение задаёт вероятность того, что r-й успех случится ровно на k-м независимом испытании. Число успехов фиксировано, а длина серии до остановки случайна.

$P(X=k)=\binom{k-1}{r-1}p^r(1-p)^{k-r}$

Мультиномиальная вероятность

Мультиномиальная формула даёт вероятность заданного вектора количеств нескольких категорий за n независимых испытаний. Комбинаторный коэффициент учитывает все порядки с одинаковыми частотами.

$P=\frac{n!}{x_1!\cdots x_m!}p_1^{x_1}\cdots p_m^{x_m}$

Нормальная аппроксимация биномиальной схемы

Нормальная аппроксимация заменяет биномиальную сумму площадью под нормальной кривой с теми же средним и дисперсией. Поправка на непрерывность сдвигает целые границы на половину шага.

$\Pr(a\le X\le b)\approx\Phi\!\left(\frac{b+1/2-np}{\sqrt{np(1-p)}}\right)-\Phi\!\left(\frac{a-1/2-np}{\sqrt{np(1-p)}}\right)$

Граница Чернова для верхнего хвоста биномиальной суммы

Граница Чернова даёт экспоненциальную верхнюю оценку вероятности большого превышения среднего у суммы независимых индикаторов. Она ограничивает хвост, а не вычисляет его точное значение.

$\Pr(X\ge(1+\delta)\mu)\le\exp\!\left(-\frac{\mu\delta^2}{2+\delta}\right),\quad\delta>0$

Граница Буля—Бонферрони для объединения событий

Вероятность хотя бы одного из нескольких событий не превосходит суммы их вероятностей. Граница работает без независимости и позволяет контролировать общую ошибку по отдельным рискам.

$\Pr\!\left(\bigcup_{i=1}^{m}A_i\right)\le\min\!\left(1,\sum_{i=1}^{m}\Pr(A_i)\right)$

Отрицательное гипергеометрическое распределение: момент успеха

При выборке без возвращения отрицательное гипергеометрическое распределение описывает номер извлечения заданного r-го успеха. В отличие от обычной гипергеометрической схемы размер выборки заранее не фиксирован.

$\Pr(T=t)=\frac{\binom{t-1}{r-1}\binom{N-t}{K-r}}{\binom NK},\qquad r\le t\le N-K+r$

Классическая вероятность события

Классическая вероятность события равна отношению числа благоприятных исходов к числу всех равновозможных исходов в конечном случайном опыте.

$P(A)=\frac{m}{n}$

Медиана набора чисел

Медиана - это центральное значение упорядоченного набора. При нечетном количестве чисел берут средний элемент, при четном - среднее двух центральных.

$Me=x_{(\frac{n+1}{2})}\text{ при нечетном }n,\quad Me=\frac{x_{(n/2)}+x_{(n/2+1)}}{2}\text{ при четном }n$

Произведение вероятностей независимых событий

Произведение вероятностей независимых событий: формула P(A\cap B)=P(A)P(B) помогает величины P, A, B заданы для одной и той же ситуации, периода или объекта. В тексте есть условия, пример, ошибки и проверка результата.

$P(A\cap B)=P(A)P(B)$

Сумма вероятностей несовместных событий

Сумма вероятностей несовместных событий: формула P(A\cup B)=P(A)+P(B) помогает требуется требуется требуется требуется требуется требуется сложить шансы вариантов, которые не могут произойти вместе. В тексте есть условия, пример, ошибки и проверка результата.

$P(A\cup B)=P(A)+P(B)$

Вероятность хотя бы одного события через дополнение

Вероятность хотя бы одного события через дополнение: формула P(\ge1)=1-P(0) помогает величины P, R заданы для одной и той же ситуации, периода или объекта. В тексте есть условия, пример, ошибки и проверка результата.

$P(\ge1)=1-P(0)$

Математическое ожидание дискретной случайной величины

Формула «Математическое ожидание дискретной случайной величины» задает численную характеристику вероятностной модели. Она переводит исходы, вероятности или наблюдения в показатель, который удобно считать, сравнивать и проверять.

$M(X)=\sum_i x_i p_i$

Дисперсия дискретной случайной величины

Формула «Дисперсия дискретной случайной величины» задает численную характеристику вероятностной модели. Она переводит исходы, вероятности или наблюдения в показатель, который удобно считать, сравнивать и проверять.

$D(X)=\sum_i (x_i-M(X))^2p_i$

Среднеквадратическое отклонение случайной величины

Формула «Среднеквадратическое отклонение случайной величины» задает численную характеристику вероятностной модели. Она переводит исходы, вероятности или наблюдения в показатель, который удобно считать, сравнивать и проверять.

$\sigma=\sqrt{D(X)}$

Ковариация двух случайных величин

Формула «Ковариация двух случайных величин» задает численную характеристику вероятностной модели. Она переводит исходы, вероятности или наблюдения в показатель, который удобно считать, сравнивать и проверять.

$\operatorname{Cov}(X,Y)=M[(X-MX)(Y-MY)]$

Коэффициент корреляции Пирсона

Формула «Коэффициент корреляции Пирсона» задает численную характеристику вероятностной модели. Она переводит исходы, вероятности или наблюдения в показатель, который удобно считать, сравнивать и проверять.

$r=\frac{\sum (x_i-\bar x)(y_i-\bar y)}{\sqrt{\sum (x_i-\bar x)^2\sum (y_i-\bar y)^2}}$

Формула полной вероятности

Формула «Формула полной вероятности» задает численную характеристику вероятностной модели. Она переводит исходы, вероятности или наблюдения в показатель, который удобно считать, сравнивать и проверять.

$P(A)=\sum_iP(H_i)P(A\mid H_i)$

Формула Байеса для условных вероятностей

Формула «Формула Байеса для условных вероятностей» задает численную характеристику вероятностной модели. Она переводит исходы, вероятности или наблюдения в показатель, который удобно считать, сравнивать и проверять.

$P(H_k\mid A)=\frac{P(H_k)P(A\mid H_k)}{\sum_iP(H_i)P(A\mid H_i)}$

Вероятность в биномиальном распределении

Формула «Вероятность в биномиальном распределении» задает численную характеристику вероятностной модели. Она переводит исходы, вероятности или наблюдения в показатель, который удобно считать, сравнивать и проверять.

$P(X=k)=C_n^kp^k(1-p)^{n-k}$

Математическое ожидание биномиального распределения

Формула «Математическое ожидание биномиального распределения» задает численную характеристику вероятностной модели. Она переводит исходы, вероятности или наблюдения в показатель, который удобно считать, сравнивать и проверять.

$M(X)=np$

Дисперсия биномиального распределения

Формула «Дисперсия биномиального распределения» задает численную характеристику вероятностной модели. Она переводит исходы, вероятности или наблюдения в показатель, который удобно считать, сравнивать и проверять.

$D(X)=np(1-p)$

Плотность нормального распределения

Формула «Плотность нормального распределения» задает численную характеристику вероятностной модели. Она переводит исходы, вероятности или наблюдения в показатель, который удобно считать, сравнивать и проверять.

$f(x)=\frac1{\sigma\sqrt{2\pi}}e^{-\frac{(x-\mu)^2}{2\sigma^2}}$

Стандартизация нормальной случайной величины

Формула «Стандартизация нормальной случайной величины» задает численную характеристику вероятностной модели. Она переводит исходы, вероятности или наблюдения в показатель, который удобно считать, сравнивать и проверять.

$Z=\frac{X-\mu}{\sigma}$

Доверительный интервал для среднего при известной дисперсии

Формула «Доверительный интервал для среднего при известной дисперсии» задает численную характеристику вероятностной модели. Она переводит исходы, вероятности или наблюдения в показатель, который удобно считать, сравнивать и проверять.

$\bar x\pm z_{\alpha/2}\frac{\sigma}{\sqrt n}$

z-статистика для проверки среднего

Формула «z-статистика для проверки среднего» задает численную характеристику вероятностной модели. Она переводит исходы, вероятности или наблюдения в показатель, который удобно считать, сравнивать и проверять.

$z=\frac{\bar x-\mu_0}{\sigma/\sqrt n}$

Распределение Пуассона: вероятность числа событий

Распределение Пуассона даёт вероятность ровно k событий на фиксированном интервале, если известно их среднее число λ. Модель применяют к независимому потоку с постоянной интенсивностью.

$P(X=k)=e^{-\lambda}\frac{\lambda^k}{k!}$

Геометрическое распределение: номер первого успеха

Геометрическое распределение описывает число независимых попыток до первого успеха включительно. Вероятность успеха p остаётся одинаковой в каждой попытке, а предшествующие попытки заканчиваются неудачей.

$P(X=k)=(1-p)^{k-1}p$

Гипергеометрическое распределение: выбор без возвращения

Гипергеометрическая формула даёт вероятность выбрать ровно k объектов нужного типа среди n предметов, взятых без возвращения из N. В исходной совокупности ровно K объектов относятся к нужному типу.

$P(X=k)=\frac{\binom{K}{k}\binom{N-K}{n-k}}{\binom{N}{n}}$

Равномерное распределение: вероятность попасть в интервал

Для непрерывного равномерного распределения на отрезке [a,b] вероятность попадания в его часть [c,d] равна отношению длин. Равные по длине части имеют одинаковые вероятности независимо от положения.

$P(c\le X\le d)=\frac{d-c}{b-a},\qquad a\le c\le d\le b$

Экспоненциальное распределение: вероятность времени ожидания

Экспоненциальная модель даёт вероятность ждать событие дольше t при постоянной интенсивности λ. В отличие от счёта событий по Пуассону, случайной величиной здесь служит непрерывное время до ближайшего события.

$P(T>t)=e^{-\lambda t}$

Неравенство Маркова для хвостовой вероятности

Неравенство Маркова даёт верхнюю границу вероятности большого значения неотрицательной случайной величины через её среднее. Оно работает без знания точного распределения, поэтому граница может быть грубой, но остаётся гарантированной при выполнении условий.

$P(X\ge a)\le\frac{E[X]}{a},\qquad X\ge0,\ a>0$

Неравенство Йенсена для ожидания функции

Неравенство Йенсена сравнивает значение выпуклой функции от среднего со средним её значений: φ(E[X])≤E[φ(X)]. Для вогнутой функции знак меняется. Это формальный способ учесть, что разброс влияет на нелинейное преобразование.

$\varphi(E[X])\le E[\varphi(X)]\quad\text{для выпуклой }\varphi$

Закон полного ожидания и условное среднее

Закон полного ожидания говорит: сначала можно найти среднее X внутри каждой группы, заданной Y или разбиением Hᵢ, а затем усреднить эти условные средние по вероятностям групп. Результат равен общему математическому ожиданию X.

$E[X]=E[E[X\mid Y]],\qquad E[X]=\sum_iE[X\mid H_i]P(H_i)$

Закон полной дисперсии: внутри и между группами

Закон полной дисперсии раскладывает общий разброс X на средний разброс внутри групп и разброс условных средних между группами. Группы задаёт Y. Формула помогает понять источник неопределённости, а не только получить одно число.

$\operatorname{Var}(X)=E[\operatorname{Var}(X\mid Y)]+\operatorname{Var}(E[X\mid Y])$

Производящая функция вероятностей дискретной величины

Производящая функция вероятностей кодирует распределение неотрицательной целочисленной величины X в степенном ряде. Коэффициент при zᵏ равен P(X=k), а независимая сумма превращает произведение функций. Она удобна для счётчиков событий и дискретных распределений.

$G_X(z)=E[z^X]=\sum_{k=0}^{\infty}P(X=k)z^k,\qquad X\in\{0,1,2,\ldots\}$

Рычаг наблюдения в простой линейной регрессии

Рычаг hᵢᵢ показывает, насколько положение наблюдения по признаку x влияет на его собственное предсказание в линейной регрессии. Он зависит только от набора x и не измеряет величину ошибки по отклику y.

$h_{ii}=\frac1n+\frac{(x_i-\bar x)^2}{S_{xx}},\qquad S_{xx}=\sum_{j=1}^n(x_j-\bar x)^2$

Расстояние Кука: влияние наблюдения на регрессию

Расстояние Кука измеряет изменение всех предсказаний регрессии при удалении одной строки данных. Оно сочетает величину остатка с рычагом наблюдения и выражается в безразмерном масштабе относительно остаточной дисперсии.

$D_i=\frac{e_i^2}{p s^2}\frac{h_{ii}}{(1-h_{ii})^2}=\frac{\sum_j(\hat y_j-\hat y_{j(i)})^2}{p s^2}$

PRESS: ошибка прогноза при поочерёдном удалении

PRESS суммирует квадраты ошибок прогноза каждой строки моделью, обученной без этой строки. Для обычной линейной регрессии удалённые остатки вычисляют из одной полной подгонки через остатки и рычаги.

$e_{(i)}=\frac{e_i}{1-h_{ii}},\qquad \mathrm{PRESS}=\sum_{i=1}^n e_{(i)}^2$

Доверительный интервал среднего отклика регрессии

Интервал среднего отклика описывает неопределённость положения генеральной прямой при заданном x₀. Он учитывает оценивание коэффициентов, но не добавляет случайный разброс одного нового наблюдения вокруг этой прямой.

$\hat y_0\pm t_{1-\alpha/2,n-2}s\sqrt{\frac1n+\frac{(x_0-\bar x)^2}{S_{xx}}}$

Интервал прогноза нового наблюдения регрессии

Прогнозный интервал простой регрессии задаёт диапазон для одного нового наблюдения при известном x₀. Он шире интервала среднего, поскольку учитывает как оценку прямой, так и индивидуальную случайную ошибку нового отклика.

$\hat y_0\pm t_{1-\alpha/2,n-2}s\sqrt{1+\frac1n+\frac{(x_0-\bar x)^2}{S_{xx}}}$

Условная вероятность события при известном условии

Условная вероятность P(A|B) показывает вероятность события A в ситуации, когда известно наступление B. Она равна вероятности совместного наступления A и B, делённой на вероятность условия B, если последняя положительна.

$P(A\mid B)=\frac{P(A\cap B)}{P(B)},\quad P(B)>0$

Сложение вероятностей пересекающихся событий

Вероятность того, что произойдёт хотя бы одно из двух событий, равна сумме их вероятностей за вычетом вероятности совместного наступления. Вычитание устраняет двойной учёт общей части событий.

$P(A\cup B)=P(A)+P(B)-P(A\cap B)$

Среднее и дисперсия ранга равномерной выборки

Для k-го наименьшего значения независимой равномерной выборки среднее делит интервал в отношении k к n + 1, а дисперсия зависит и от ранга, и от объёма выборки.

$E[X_{(k)}]=a+(b-a)\frac{k}{n+1},\qquad \operatorname{Var}(X_{(k)})=(b-a)^2\frac{k(n-k+1)}{(n+1)^2(n+2)}$

Вероятность длинного промежутка в равномерной выборке

Любой заранее выбранный промежуток между соседними равномерными порядковыми статистиками, включая края интервала, имеет одну и ту же вероятность превысить заданную длину.

$P(D_i>s)=\left(1-\frac{s}{L}\right)^n,\qquad E[D_i]=\frac{L}{n+1},\quad L=b-a$