Аналитика / Статистические выводы

Критерий χ² согласия: сравнение с распределением

Критерий χ² согласия сравнивает наблюдаемые частоты категорий с ожидаемыми частотами заданного вероятностного распределения. Статистика суммирует нормированные квадраты отклонений и оценивается по правому хвосту распределения χ².

Опубликовано: Обновлено:

Формула

$$\chi^2=\sum_{i=1}^{k}\frac{(O_i-E_i)^2}{E_i},\quad E_i=np_i$$
Схема Наблюдаемые и ожидаемые частоты
Сравнение частотE=2530202525

Для четырёх категорий примера ожидается 25 наблюдений; показаны фактические значения 30, 20, 25 и 25.

Обозначения

$Oᵢ$
наблюдаемое число объектов в категории i, наблюдения
$Eᵢ$
ожидаемое число в категории при H₀, наблюдения
$pᵢ$
заданная вероятность категории, безразмерная
$n$
общее число независимых наблюдений, наблюдения
$k$
число категорий, безразмерная
$χ²$
статистика согласия Пирсона, безразмерная

Условия применения

Категории не пересекаются и охватывают все возможные исходы, наблюдения независимы, Eᵢ>0. Для приближения распределением χ² ожидаемые частоты должны быть достаточно велики; распространённый ориентир — не менее пяти в каждой категории. Вероятности и группировку задают до анализа.

Ограничения

Для малых ожидаемых частот приближение может быть плохим: рассмотрите заранее обоснованное объединение категорий или точный/имитационный метод. Если параметры модели оценены из данных, число степеней свободы и способ оценки требуют учёта. Неполучение значимости не доказывает истинность распределения.

Подробное объяснение

Пусть H₀ задаёт вероятности p₁,…,pₖ для одной категориальной переменной. При n наблюдениях ожидаемое число в категории равно Eᵢ=npᵢ. Все категории должны охватывать возможные исходы без пересечений; сумма наблюдаемых и ожидаемых частот равна одному и тому же n.

Вклад категории равен (Oᵢ−Eᵢ)²/Eᵢ. Квадрат делает отклонения обоих знаков положительными, а деление на Eᵢ учитывает масштаб ожидаемой частоты. Большое значение суммы говорит о заметном расхождении с распределением, но не указывает автоматически, какая категория является причиной или насколько различие существенно на практике.

Если вероятности полностью заданы до наблюдений и параметры по этой выборке не оценивались, стандартное приближение использует k−1 степеней свободы. Единицу вычитают из-за фиксированной суммы частот. При оценке m параметров из тех же сгруппированных данных в стандартной постановке используют k−1−m; способ оценки важен для применимости этого правила.

При уровне α статистику сравнивают с верхним критическим значением распределения χ². Значение выше порога даёт основание отвергнуть H₀; если оно ниже, оснований отвергнуть H₀ по этому тесту недостаточно. Это не доказывает, что модель верна: малая выборка и выбранное группирование могут скрыть реальные отклонения.

Не путайте согласие и независимость. Здесь сравнивается одно распределение с заранее заданными вероятностями. В тесте независимости рассчитывают ожидаемые значения из строковых и столбцовых итогов таблицы, а степени свободы обычно равны (r−1)(c−1).

Как пользоваться формулой

  1. Задайте нулевое распределение и непересекающиеся категории до анализа; проверьте независимость наблюдений.
  2. Умножьте число наблюдений на вероятность каждой категории и проверьте положительность ожидаемых частот.
  3. Для каждой категории вычислите разность Oᵢ−Eᵢ, её квадрат и отношение к ожидаемой частоте.
  4. Сложите вклады и определите степени свободы с учётом ограничений и параметров, оценённых по данным.
  5. Сравните сумму с правосторонним критическим значением и сформулируйте вывод без утверждения истинности H₀.

Историческая справка

Карл Пирсон в работе 1900 года в Philosophical Magazine исследовал критерий отклонений наблюдаемых частот от теоретических. Оригинальная статья доступна в цифровой копии; её название связывает задачу с вопросом, могли ли отклонения возникнуть при случайном отборе.

В дальнейшем критерий использовался для разных задач, включая сравнение наблюдаемого распределения с заданным и анализ таблиц сопряжённости. Сходство суммы квадратов отклонений не делает нулевые гипотезы и степени свободы одинаковыми.

Современное руководство NIST отдельно описывает тест согласия для сгруппированных данных, влияние выбора интервалов и поправку на число оцениваемых параметров. Оно также подчёркивает, что χ²-распределение служит приближением, для которого нужна достаточная численность категорий.

Историческая линия формулы

Критерий согласия χ² связан с публикацией Карла Пирсона 1900 года. Современное правило степеней свободы и условия использования развивались в последующей статистической практике; формула суммы сама по себе не уточняет, какие параметры оценивались по данным.

Пример

В 100 независимых наблюдениях четыре заранее заданные категории получили частоты 30, 20, 25 и 25. Проверим равные вероятности по 0,25 при уровне α=0,05; параметры по этим данным не оценивались. Ожидаемое число в каждой категории E=100·0,25=25. Вклады равны (30−25)²/25=1, (20−25)²/25=1 и по нулю для двух остальных. Сумма χ²=2. Степеней свободы k−1=3; верхний 95%-ный квантиль составляет примерно 7,815. Поскольку 2<7,815, оснований отвергнуть равенство вероятностей на уровне 5% нет. Все ожидаемые частоты равны 25, что удовлетворяет обычному ориентиру для приближения. Проверка сумм: наблюдаемые и ожидаемые частоты дают по 100; полученный результат не доказывает точного равенства долей.

Частая ошибка

Не делите квадрат отклонения на наблюдаемую частоту: знаменатель — ожидаемая. Не используйте левый хвост для отклонения от модели: большое χ² означает худшее согласие. Не берите k−1 без поправки при оценивании параметров по выборке. Не называйте отсутствие отказа доказательством H₀ и не путайте этот тест с независимостью признаков.

Практика

Задачи с решением

Три категории

Условие. В 90 наблюдениях три равновероятные категории имеют частоты 40, 30 и 20. Найдите χ².

Решение. E=30 в каждой; χ²=100/30+0+100/30=20/3≈6,667; df=2.

Ответ. χ²≈6,667; df=2.

Расчёт ожидаемых частот

Условие. Для n=200 модель задаёт вероятности 0,2; 0,3; 0,5. Найдите ожидаемые частоты.

Решение. Умножаем n на каждую вероятность: 200·0,2=40, 200·0,3=60, 200·0,5=100.

Ответ. 40, 60 и 100.

Дополнительные источники

  • https://zenodo.org/records/1430618
  • https://www.itl.nist.gov/div898/handbook/eda/section3/eda35f.htm
  • https://www.itl.nist.gov/div898/handbook/eda/section3/eda3674.htm

Связанные формулы

Аналитика

Критерий хи-квадрат независимости

$\chi^2=\sum\frac{(O-E)^2}{E}$

Критерий хи-квадрат независимости: формула \chi^2=\sum\frac{(O-E)^2}{E} помогает величины chi, O, E заданы для одной и той же ситуации, периода или объекта. В тексте есть условия, пример, ошибки и проверка результата.

Аналитика

Парный t-критерий: проверка среднего изменения

$t=\frac{\bar d-\mu_{d,0}}{s_d/\sqrt n},\quad d_i=Y_i-X_i$

Парный t-критерий проверяет гипотезу о среднем различии двух связанных измерений. Сначала для каждого объекта вычисляют разность, затем сравнивают среднюю разность с заданным значением с учётом её выборочного разброса.

Аналитика

t-интервал для среднего при неизвестной дисперсии

$\bar{x}\pm t_{1-\alpha/2,n-1}\,\frac{s}{\sqrt{n}}$

Доверительный t-интервал оценивает среднее генеральной совокупности, когда её дисперсия неизвестна и стандартное отклонение вычислено по выборке. Границы строят из выборочного среднего, стандартной ошибки и квантиля распределения Стьюдента.