Аналитика / Статистические выводы
Неравенство DKW: полоса для эмпирической функции распределения
Неравенство Дворецкого—Кифера—Вольфовица ограничивает максимальную ошибку эмпирической функции распределения сразу по всем x. Правая часть зависит только от размера независимой выборки и ширины полосы.
Формула
Верхние границы DKW при 100,200,400 независимых наблюдениях:2e^(−2),2e^(−4),2e^(−8).
Обозначения
- $n$
- число независимых одинаково распределённых наблюдений, шт.
- $F(x)$
- истинная функция распределения, доля
- $F_n(x)$
- доля наблюдений, не превосходящих x, доля
- $ε$
- допустимая максимальная вертикальная ошибка, доля
Условия применения
Выборка независима и одинаково распределена по одному закону F. Эмпирическая F_n использует все n наблюдений с равными весами. Число ε>0. Данная двухсторонняя версия с константой 2 применима без требования непрерывности F.
Ограничения
Для зависимых временных рядов и неравновесных весов эта запись не даёт автоматической гарантии. При малом n или ε правая часть может превышать 1, тогда полезна лишь граница 1. Полоса описывает ошибку функции распределения, а не точность плотности, среднего или крайних квантилей без дополнительных условий.
Подробное объяснение
Для каждого x эмпирическая F_n(x) считает долю наблюдений≤x. Если бы проверялось одно заранее выбранное x, это была бы обычная оценка вероятности события. В DKW берут супремум по всем x, поэтому событие контролирует всю ступенчатую кривую одновременно.
Правая часть 2exp(−2nε²) ограничивает вероятность того, что хотя бы в одной точке вертикальное расхождение больше ε. При фиксированной ширине удвоение n удваивает модуль отрицательного показателя; вероятность нарушения полосы уменьшается экспоненциально.
Выбирая заданный риск δ, решают 2exp(−2nε²)=δ. Получается ε=√[ln(2/δ)/(2n)]. Поэтому для доверия 1−δ полосу строят как F_n±ε и ограничивают её снизу 0 и сверху 1. Уровень относится ко всей функции, а не отдельно к каждой нанесённой точке.
Размер выборки для заданной ширины получают обратным расчётом n≥ln(2/δ)/(2ε²) с округлением вверх. В этой формуле ε измеряется долей вероятности:0,1 означает 10 процентных пунктов, а не 10% относительной ошибки F в каждой точке.
Граница не зависит от формы распределения. Но переход от вертикальной ошибки F к ошибке квантиля зависит от поведения F около нужного уровня. На плоском участке небольшая вертикальная погрешность может соответствовать большому изменению координаты x.
Как пользоваться формулой
- Проверьте независимость и общий закон наблюдений, затем постройте F_n(x) как долю значений не больше x с равными весами.
- Задайте либо вертикальную ширину ε, либо риск δ; не смешивайте абсолютную ошибку вероятности и относительную ошибку по x.
- Для ε вычислите 2exp(−2nε²); для δ найдите ε=√[ln(2/δ)/(2n)], сохраняя натуральный логарифм.
- Постройте общую полосу вокруг F_n, ограничьте её диапазоном[0,1] и укажите, что доверие относится ко всей функции сразу.
Историческая справка
Результат носит имена Дворецкого, Кифера и Вольфовица и относится к концентрации эмпирической функции распределения. Особенность постановки — равномерный контроль по всей оси, который делает возможной непараметрическую доверительную полосу.
Массар в работе 1990 года «The Tight Constant in the Dvoretzky–Kiefer–Wolfowitz Inequality» установил точную константу для известной двухсторонней формы. Поэтому современную запись с множителем 2 часто называют DKW—Massart. Историческую атрибуцию нужно связывать с конкретной версией: само равномерное неравенство и уточнение лучшей константы являются связанными, но различимыми результатами. Численный пример здесь демонстрирует применение конечновыборочной гарантии, а не асимптотический вывод.
Историческая линия формулы
Основное неравенство связано с Дворецким, Кифером и Вольфовицем; множитель 2 в данной форме — с уточнением Массара 1990 года. Источник назван точно, чтобы не смешивать его с другими оценками статистики Колмогорова или одноточечными биномиальными интервалами.
Пример
Есть n=100 независимых одинаково распределённых наблюдений. Хотим ограничить максимальную ошибку эмпирической F_n величиной ε=0,1. Подстановка даёт δ≤2exp(−2·100·0,1²)=2e^(−2)≈0,27067057. Следовательно, вероятность того, что вся кривая останется в пределах±0,1 от F, не меньше 1−0,27067057=0,72932943. Ответ: гарантия около 72,93% при данной ширине. Это не 95%-ная полоса. Проверка требуемого доверия: для δ=0,05 и n=100 нужно ε=√[ln40/200]≈0,13581015. Более высокий уровень доверия потребовал более широкой полосы. Нельзя назначить 95% словесно, сохранив прежние n и ε: уровень определяется самим неравенством.
Частая ошибка
Не трактуйте гарантию как утверждение только для одной точки x. Не назначайте произвольный уровень доверия уже выбранной ширине. Не используйте зависимые измерения как независимые без обоснования. Не заменяйте натуральный логарифм двоичным при обратном расчёте ширины или размера выборки.
Практика
Задачи с решением
Удвоенная выборка
Условие. n=200, ε=0,1. Найдите риск выхода за полосу по DKW.
Решение. δ≤2e^(−4)≈0,03663128. Вероятность соблюдения не ниже 0,96336872.
Ответ. Риск не более 3,66313%.
Планирование объёма
Условие. Какое минимальное целое n гарантирует ε=0,1 при риске δ=0,05?
Решение. n≥ln40/(2·0,1²)≈184,44397, округляем вверх.
Ответ. n=185.
Дополнительные источники
- https://doi.org/10.1214/aop/1176990746
- https://www.stat.cmu.edu/~larry/=stat705/Lecture10.pdf
Связанные формулы
Математика
Вероятность в биномиальном распределении
Формула «Вероятность в биномиальном распределении» задает численную характеристику вероятностной модели. Она переводит исходы, вероятности или наблюдения в показатель, который удобно считать, сравнивать и проверять.
Математика
Граница Чернова для верхнего хвоста биномиальной суммы
Граница Чернова даёт экспоненциальную верхнюю оценку вероятности большого превышения среднего у суммы независимых индикаторов. Она ограничивает хвост, а не вычисляет его точное значение.
Аналитика
Интервал Вильсона для биномиальной доли
Интервал Вильсона оценивает неизвестную вероятность успеха по числу успехов в независимых испытаниях. Его границы получают обращением score-теста, и они остаются в допустимом диапазоне вероятностей.