Аналитика / Статистические выводы

Критерий Неймана — Пирсона для двух простых гипотез

Критерий Неймана — Пирсона даёт максимальную мощность при заданном уровне значимости для двух простых гипотез. Нулевую гипотезу отклоняют, когда отношение правдоподобий в пользу альтернативы превышает порог. На самом пороге допускается случайный выбор.

Опубликовано: 9 ноября 2026 г.Обновлено: 9 ноября 2026 г.

Формула

\varphi^*(x)=\begin{cases}1,&f_1(x)>c f_0(x),\\\gamma,&f_1(x)=c f_0(x),\\0,&f_1(x)<c f_0(x),\end{cases}\qquad \mathbb{E}_0[\varphi^*(X)]=\alpha

Схема Как рандомизация меняет уровень и мощность

ROC-кривая основного примера. Тёмные вершины соответствуют порогам по целому числу дефектов. Выделенная точка достигает уровня 10% и мощности 67,5% при γ=0,60 на границе X=2.

Обозначения

X, x: случайные данные и их наблюдённое значение, зависит от измерения
f₀, f₁: функции вероятностей либо плотности данных при H₀ и H₁ относительно одной меры, вероятность или плотность в одних единицах
$c$: порог для отношения f₁(x)/f₀(x), безразмерный
$γ$: условная вероятность отклонения H₀ на границе f₁(x)=cf₀(x), от 0 до 1
$φ*(x)$: условная вероятность отклонения H₀ при данных x, от 0 до 1
$α$: заданный уровень значимости, верхняя граница вероятности ошибки первого рода, от 0 до 1
E₀, E₁: математическое ожидание по закону данных при H₀ или H₁, для φ* — безразмерное

Условия применения

Обе гипотезы простые: каждая полностью задаёт распределение всех наблюдений. Функции f₀ и f₁ должны описывать один и тот же набор данных относительно общей меры, например обе быть вероятностями дискретных исходов. Уровень 0<α<1 выбирают заранее. Если на пороге нужна рандомизация, используют независимое от данных случайное число.

Ограничения

Если хотя бы одна гипотеза оставляет параметры неизвестными, оптимальность для всего семейства моделей требует отдельного доказательства. При дискретных данных достижение ровно α может потребовать рандомизации. Если её применение исключено правилами контроля, пороговый критерий с фактическим уровнем ниже α остаётся допустимым, но может терять мощность.

Подробное объяснение

Простая гипотеза задаёт конкретное распределение данных. Если обе гипотезы простые, для каждого исхода можно сравнить его вероятность или плотность при H₁ и H₀. Критерий ставит на первое место исходы, которые дают наибольший прирост мощности на единицу риска ложной тревоги.

Для дискретного исхода x включение его в область отклонения добавляет f₀(x) к вероятности ошибки первого рода и f₁(x) к мощности. Поэтому порог на f₁(x)/f₀(x) отдаёт приоритет исходам с наибольшей отдачей. Сравнение f₁(x)>cf₀(x) работает и при f₀(x)=0: если f₁(x)>0, такой исход увеличивает мощность без расхода уровня α.

Если при H₀ вероятность строгого превышения порога меньше α, а добавление всей границы превысило бы α, часть границы учитывают случайно. При положительной массе границы γ равна разности между α и вероятностью строгого превышения, делённой на вероятность попасть ровно на порог. В непрерывном примере с нулевой вероятностью равенства этот шаг не нужен.

В биномиальной модели с p₁>p₀ отношение правдоподобий растёт с числом успехов, поэтому область отклонения лежит в верхнем хвосте. Если p₁<p₀, отношение убывает и нужен нижний хвост. После выбора порога под H₀ тем же правилом рассчитывают мощность под H₁. Её дополнение до единицы даёт вероятность ошибки второго рода при этой альтернативе.

На графике каждая вершина соответствует включению ещё одного значения счётчика в область отклонения. Точка между вершинами означает, что граничное значение включают с вероятностью γ. При смене альтернативы меняются вероятности под H₁, поэтому для новой модели мощность рассчитывают заново.

Как пользоваться формулой

Запишите оба распределения на одном пространстве наблюдений и зафиксируйте максимально допустимый уровень α до анализа данных.
Сравните f₁(x) и cf₀(x) или упорядочьте исходы по f₁(x)/f₀(x), начиная с наиболее убедительных в пользу H₁.
Выберите порог c по распределению при H₀ так, чтобы строгая область отклонения укладывалась в α, а добавление всей границы достигало α или превышало его.
При ненулевой вероятности равенства найдите γ как долю вероятности границы, необходимую, чтобы дополнить вероятность строгого превышения до α.
Примените правило к наблюдённому исходу. При равенстве порогу отклоняйте H₀, если независимое равномерное число из [0,1] меньше γ.
Рассчитайте мощность по тому же порогу и той же γ под H₁. Для проверки повторите расчёт под H₀ и получите фактический уровень.

Историческая справка

Ежи Нейман и Эгон Шарп Пирсон представили работу о наиболее эффективных статистических критериях в Королевском обществе в ноябре 1932 года. Статья вышла в 1933 году в томе 231 Philosophical Transactions of the Royal Society A. В разделе III авторы поставили задачу поиска области, которая при фиксированной вероятности ошибки первого рода даёт максимальную вероятность отклонения нулевой гипотезы при выбранной альтернативе.

В первом нормальном примере этого раздела авторы показали, что направление порога для выборочного среднего зависит от того, выше или ниже альтернативное среднее. Один и тот же односторонний порог не мог быть лучшим для обоих направлений. Позже в том же 1933 году авторы отдельно обсудили, какие выводы о статистическом решении возможны без заданных априорных вероятностей. В современной записи через функцию φ(x) легко учесть и дискретный случай, когда точный уровень достигается случайным выбором на границе.

Историческая линия формулы

Результат для двух простых гипотез носит имена Ежи Неймана и Эгона Шарпа Пирсона по их совместной статье 1933 года. В разделе III авторы сформулировали задачу через лучшую критическую область. Запись с условной вероятностью отклонения φ(x) — современная форма, которая явно показывает, как обрабатывают равенство порогу.

Пример

Три изделия проверяют независимо. Пусть при H₀ вероятность дефекта равна 1/4, при H₁ — 3/4. Найдём наиболее мощный критерий с уровнем α=0,10. Обозначим через X число дефектов. Отношение вероятностей исхода X=k равно 3^(2k−3), поэтому сначала в область отклонения включаем k=3, затем k=2. При H₀ вероятность X=3 равна 1/64, а X=2 — 9/64. Выбираем порог c=3, который соответствует X=2. При трёх дефектах отклоняем H₀ всегда. При двух — с вероятностью γ=(0,10−1/64)/(9/64)=0,60. Уровень равен 1/64+0,60·9/64=0,10. При H₁ вероятности X=3 и X=2 одинаковы и равны 27/64. Поэтому мощность равна 27/64+0,60·27/64=0,675, а ошибка второго рода — 0,325. Уровень и мощность безразмерны. Без рандомизации правило «отклонить только при X=3» имело бы уровень около 1,56% и мощность около 42,19%.

Частая ошибка

При перестановке f₀ и f₁ меняется направление сравнения. Если считаете f₀/f₁, в пользу H₁ говорят малые значения. Вероятность на границе нужно умножать на γ и под H₀, и под H₁: использование полной граничной массы меняет уровень и мощность. Направление биномиального хвоста проверяют по p₁−p₀. Уровень α относится к повторным наблюдениям при H₀. Вероятность истинности H₀ по наблюдённым данным требует другой постановки.

Практика

Задачи с решением

Альтернатива с меньшей вероятностью успеха

Условие. В четырёх независимых испытаниях вероятность успеха равна 1/2 при H₀ и 1/4 при H₁. Найдите порог по числу успехов и мощность при α=1/8.

Решение. Отношение f₁(k)/f₀(k)=(1/2)^k·(3/2)^(4−k) убывает с k. Под H₀ массы для k=0 и k=1 равны 1/16 и 1/4. Порог c=27/16 соответствует k=1. Берём все исходы k=0, а при k=1 рандомизируем с γ=(1/8−1/16)/(1/4)=1/4. Проверка уровня: 1/16+(1/4)·(1/4)=1/8. Под H₁ массы для k=0 и k=1 равны 81/256 и 108/256. Мощность равна 81/256+(1/4)·108/256=27/64.

Ответ. Отклоняем H₀ при k=0, а при k=1 — с вероятностью 1/4. Мощность 27/64=42,1875%.

Непрерывная модель без рандомизации

Условие. На отрезке [0,1] плотность наблюдения равна 1 при H₀ и 2x при H₁. Постройте критерий уровня 5% и найдите мощность.

Решение. Отношение плотностей равно 2x и растёт с x. При H₀ наблюдение равномерно, поэтому P₀(X>t)=1−t=0,05 даёт t=0,95, то есть c=1,90 для отношения. Равенство порогу имеет нулевую вероятность. При H₁ функция распределения на отрезке равна x², поэтому P₁(X>0,95)=1−0,95²=0,0975.

Ответ. Отклоняем H₀ при x>0,95. Мощность 9,75%, вероятность ошибки второго рода 90,25%.

Дополнительные источники

https://www.stats.org.uk/statistical-inference/NeymanPearson1933.pdf
https://web.stanford.edu/class/stats200/Lecture06.pdf
https://www.cambridge.org/core/journals/mathematical-proceedings-of-the-cambridge-philosophical-society/article/abs/testing-of-statistical-hypotheses-in-relation-to-probabilities-a-priori/65C6E3D534996282114D4E16FCA3E73C

Связанные формулы

Математика

Вероятность в биномиальном распределении

$P(X=k)=C_n^kp^k(1-p)^{n-k}$

Формула «Вероятность в биномиальном распределении» задает численную характеристику вероятностной модели. Она переводит исходы, вероятности или наблюдения в показатель, который удобно считать, сравнивать и проверять.

Аналитика

ROC AUC через пары объектов

$\mathrm{AUC}=\frac{N_{concordant}+0.5N_{tied}}{N_{positive}N_{negative}}$

ROC AUC оценивает ранжирование: насколько часто положительный объект получает скор выше отрицательного. Метрика не зависит от одного порога, но требует корректных скорингов и выбранного положительного класса.

Аналитика

Точный интервал Клоппера—Пирсона для биномиальной доли

$p_{\mathrm{н}}=B^{-1}(\alpha/2; x,n-x+1),\quad p_{\mathrm{в}}=B^{-1}(1-\alpha/2; x+1,n-x)$

Точный интервал Клоппера—Пирсона оценивает неизвестную вероятность успеха по числу успехов x в n независимых испытаниях Бернулли. Его границы находят из биномиальных хвостов; при доверии 95% покрытие не меньше 95%, но интервал может быть шире приближённых вариантов.