Математика / Вероятность и статистика

Распределение k-го наименьшего наблюдения в выборке

Вероятность того, что k-е наименьшее наблюдение не превысит порог, равна вероятности получить хотя бы k попаданий ниже этого порога в независимой выборке.

Опубликовано: Обновлено:

Формула

$$P(X_{(k)}\le x)=\sum_{j=k}^{n}\binom nj F(x)^j[1-F(x)]^{n-j}$$
Схема Третий из пяти результатов
00.20.40.60.8100.250.50.751P(X₍₃₎ ≤ x)pk = 3, n = 5

Вероятность хотя бы трёх попаданий из пяти; точка соответствует p = 0,4.

Обозначения

$X_{(k)}$
k-е наименьшее наблюдение, единицы X
$n$
Объём независимой выборки, —
$k$
Ранг при сортировке по возрастанию, —
$F(x)$
Вероятность одного наблюдения не превысить x, —
$j$
Число попаданий в область X ≤ x, —
$x$
Порог для рангового значения, единицы X

Условия применения

Наблюдения независимы и имеют одну функцию распределения F. Ранг k — целое число от 1 до n; значения упорядочиваются по возрастанию. Для события «не больше x» подставляют именно F(x), включая вероятность равенства порогу.

Ограничения

Для зависимых наблюдений число попаданий обычно не имеет биномиального распределения. При разных функциях распределения нужна пуассоновская биномиальная модель. Результат относится к случайному ранговому значению до наблюдения данных, а не к сортировке готовой таблицы.

Подробное объяснение

Порядковая статистика получается сортировкой случайной выборки: X₍₁₎ — минимум, X₍ₙ₎ — максимум. До измерения сама позиция k случайна. Её функция распределения отвечает на вопрос, с какой вероятностью значение на этой позиции окажется левее выбранного порога.

Зафиксируем x и заменим каждое наблюдение индикатором попадания в область X ≤ x. Число таких попаданий J имеет биномиальное распределение с параметрами n и p = F(x). Условие X₍ₖ₎ ≤ x выполнено тогда и только тогда, когда J ≥ k. Именно поэтому суммируются вероятности от k до n, а не от нуля до k.

Предельные ранги дают полезную проверку. Для максимума все n значений должны быть не больше x, поэтому вероятность равна F(x)ⁿ. Для минимума достаточно хотя бы одного попадания, поэтому получается 1 − [1 − F(x)]ⁿ. Средние ранги требуют полной суммы или её дополнения.

Если распределение исходной величины непрерывно, равенства между наблюдениями имеют нулевую вероятность. Но сама формула функции распределения верна и для дискретных данных: сортировка допускает повторы. Плотность через производную можно вводить только при дополнительных условиях на F.

На графике показана вероятность для третьего из пяти наблюдений как функция вероятности p одного попадания. В центре p = 0,5 симметрия даёт 0,5. Кривая круче прямой p: требование большинства усиливает различие между редкими и частыми попаданиями.

Как пользоваться формулой

  1. Определите, какое значение после сортировки требуется: минимум, максимум или наблюдение конкретного ранга k.
  2. Проверьте независимость и одинаковое распределение измерений, прежде чем применять биномиальную модель попаданий.
  3. Найдите вероятность p = F(x) для одного наблюдения, сохранив в событии возможное равенство заданному порогу.
  4. Сложите биномиальные вероятности от k до n или вычтите из единицы сумму для j от нуля до k − 1.
  5. Проверьте, что ответ лежит между нулём и единицей и увеличивается при повышении порога x.

Историческая справка

Порядковые статистики относятся к математической статистике: в ней изучают случайные характеристики выборки, включая крайние значения и медиану. В учебной традиции XX–XXI веков их распределения выводят из событий, связанных с подсчётом наблюдений по обе стороны порога. Такой вывод дан в материалах университетов Пенсильвании и Дьюка.

Биномиальная сумма здесь возникает не как отдельный закон измерительной техники, а как следствие независимых испытаний с двумя исходами. Сортировка переводится в вопрос о числе успехов; затем используются уже известные биномиальные вероятности. У записи нет необходимости назначать единственного автора: это стандартная конструкция теории случайной выборки.

Современные учебные курсы отделяют функцию распределения от плотности порядковой статистики. Это различие существенно для данных с повторами: счёт попаданий остаётся верным, а привычная формула плотности для непрерывной величины уже неприменима. В статье используется именно событийный вывод.

Историческая линия формулы

Формула приведена как стандартный результат теории порядковых статистик, без персонального приоритета. Университетские материалы подтверждают вывод через число наблюдений ниже порога; биномиальная модель объясняет и границы суммы, и требование независимости.

Пример

Пять независимых величин равномерны на [0; 10] с. Найдём вероятность того, что третье наименьшее время не превысит 4 с. Для одного результата p = 4/10 = 0,4; число попаданий J имеет параметры n = 5 и p = 0,4. P(X₍₃₎ ≤ 4) = 10·0,4³·0,6² + 5·0,4⁴·0,6 + 0,4⁵ = 0,2304 + 0,0768 + 0,01024 = 0,31744. Ответ — 31,744 %. Здесь складываются случаи ровно трёх, четырёх и пяти попаданий, поэтому ни один исход не посчитан дважды. Вероятность безразмерна, хотя сами времена измеряются в секундах. Для независимой проверки сумма вероятностей нуля, одного и двух попаданий равна 0,68256; её дополнение до единицы снова даёт 0,31744.

Частая ошибка

Не путайте k-е наименьшее значение с k-м наибольшим: при n = 5 второму наибольшему соответствует ранг 4. Нельзя оставлять в сумме только j = k: событие включает и большее число попаданий. Не заменяйте F(x) значением плотности f(x): плотность может превышать единицу и имеет другие единицы. При общих внешних условиях измерения могут зависеть друг от друга, даже если приборы разные.

Практика

Задачи с решением

Максимум трёх измерений

Условие. Три независимых U(0; 1). Найдите вероятность максимума не больше 0,8.

Решение. Для ранга k = n = 3 остаётся один член: 0,8³ = 0,512.

Ответ. 0,512

Минимум четырёх значений

Условие. Четыре независимых U(0; 1). Найдите P(X₍₁₎ ≤ 0,2).

Решение. Вычтем событие, где все значения выше порога: 1 − 0,8⁴ = 0,5904.

Ответ. 0,5904

Дополнительные источники

  • https://online.stat.psu.edu/stat415/Lesson01
  • https://faculty.washington.edu/yenchic/20A_stat512/Lec9_Order.html
  • https://sites.math.duke.edu/~jonm/Math231/orderStatistics.html
  • https://itl.nist.gov/div898/software/dataplot/refman2/auxillar/ordstmea.htm

Связанные формулы

Математика

Равномерное распределение: вероятность попасть в интервал

$P(c\le X\le d)=\frac{d-c}{b-a},\qquad a\le c\le d\le b$

Для непрерывного равномерного распределения на отрезке [a,b] вероятность попадания в его часть [c,d] равна отношению длин. Равные по длине части имеют одинаковые вероятности независимо от положения.

Аналитика

Размах вариации

$R=x_{max}-x_{min}$

Размах вариации показывает расстояние между максимальным и минимальным значением набора данных. Это самый простой показатель разброса.

Математика

Экспоненциальное распределение: вероятность времени ожидания

$P(T>t)=e^{-\lambda t}$

Экспоненциальная модель даёт вероятность ждать событие дольше t при постоянной интенсивности λ. В отличие от счёта событий по Пуассону, случайной величиной здесь служит непрерывное время до ближайшего события.