Математика / Вероятность и статистика
Закон полного ожидания и условное среднее
Закон полного ожидания говорит: сначала можно найти среднее X внутри каждой группы, заданной Y или разбиением Hᵢ, а затем усреднить эти условные средние по вероятностям групп. Результат равен общему математическому ожиданию X.
Формула
E[X] = Σ P(Hᵢ)E[X|Hᵢ]
Обозначения
- $X$
- величина, общее среднее которой ищут, единица X
- $Y$
- переменная, по которой условятся, зависит от модели
- $E[X|Y]$
- случайная величина условных средних, единица X
- $Hᵢ$
- несовместимые сценарии, образующие разбиение, без единицы
Условия применения
Нужно, чтобы X была интегрируема. Для формулы по событиям Hᵢ они должны быть попарно несовместимы, покрывать пространство исходов и иметь определённые условные средние для ненулевых вероятностей. В дискретной записи суммы берут по значениям Y с положительной вероятностью. Независимость X и Y не нужна; при независимости E[X|Y]=E[X], но это лишь частный случай.
Ограничения
Нельзя усреднять условные средние обычным арифметическим средним групп: веса обязаны быть вероятностями групп. E[X|Y] — функция от Y, а E[X|Y=y] — значение этой функции в группе; записи нельзя менять местами без пояснения. Закон не восстанавливает распределение X и не доказывает независимость. При бесконечных ожиданиях нужна строгая мера-теоретическая формулировка, а не школьная сумма.
Подробное объяснение
Закон полного ожидания — правило двухэтажного усреднения. Сначала фиксируют информацию Y и находят среднее X при этом условии. Получается функция g(Y)=E[X|Y]. Затем усредняют g(Y) по возможным Y. Второй этаж возвращает E[X], потому что все исходы были учтены один раз, но собраны в группы.
Для конечного разбиения H₁,…,Hₙ формула следует из суммы E[X]=ΣᵢΣₓxP(X=x,Hᵢ)=ΣᵢP(Hᵢ)ΣₓxP(X=x|Hᵢ). Внутренняя сумма — E[X|Hᵢ]. Это тот же механизм, что в полной вероятности, но вместо индикатора события усредняется числовая величина X.
Независимость не требуется. Если клиенты разных сегментов тратят по-разному, общее среднее — не среднее сегментных средних «пополам», а смесь с долями сегментов. Редкая группа с большим средним может мало менять общий итог; её вклад растёт линейно с вероятностью.
Типичный приём — условиться по числу испытаний, первой попытке или скрытому сценарию. Если при N попытках ожидаемое число успехов pN, то E[X]=E[pN]=pE[N]. Так вычисляют ожидание случайной суммы без перебора всех её значений.
От полной вероятности закон отличает объект усреднения: там считают вероятность события, здесь среднее числовой величины. От полной дисперсии он отличается тем, что не раскладывает разброс. Полное ожидание часто служит её первым шагом, но не заменяет её.
Как пользоваться формулой
- Выберите Y или разбиение на сценарии так, чтобы условное распределение X в каждой группе было понятнее исходного безусловного распределения.
- Для каждой группы найдите E[X|Y=yᵢ] либо E[X|Hᵢ], не подменяя его наблюдаемым единичным значением X.
- Умножьте каждое условное среднее на вероятность группы и просуммируйте; вероятности должны давать ровно единицу.
- Проверьте единицы и здравый смысл: итог лежит между минимальным и максимальным условными средними при положительных весах.
Историческая справка
Идея полного ожидания выросла из правил условной вероятности и взвешенных средних. В задачах о страховании, играх и смесях распределений расчёт естественно разбивали на взаимно исключающие случаи; современная запись с условным ожиданием делает этот приём компактным. В строгой теории ожидание рассматривают как интеграл, а условное ожидание — как величину, зависящую от доступной информации. Конечная формула тогда оказывается суммированием по случаям, записанным в едином языке. В учебниках закон называют также законом итерационных ожиданий: сначала усредняют после условия, затем усредняют условное среднее. В прикладной статистике он объясняет средние по сегментам, а в теории процессов — ожидания случайных сумм. Ему не приписывают одного автора: это следствие базовых определений, которое встречалось в задачах о разбиениях и со временем приобрело общую вероятностную запись. В университетских курсах XXI века этот инструмент излагают вместе с условиями существования ожиданий и соответствующих моментов.
Историческая линия формулы
У закона полного ожидания нет общепринятого единственного автора. Его конечная форма следует из разбиения пространства на случаи и определения условного среднего; современная запись E[E[X|Y]] использует развитое понятие условного ожидания. Название «закон итерационных ожиданий» описывает порядок двух операций усреднения, а не связывает результат с отдельным историческим именем.
Пример
Сервис получает заявки двух типов. С вероятностью 0,7 заявка обычная и занимает в среднем 10 минут, с вероятностью 0,3 — сложная и занимает 35 минут. Пусть X — время обработки, Y — тип. Тогда E[X]=10·0,7+35·0,3=7+10,5=17,5 минуты. Не нужно предполагать, что все обычные заявки занимают ровно 10 минут: это уже условные средние. Проверка: 17,5 лежит между 10 и 35 минутами и ближе к 10, потому что обычные заявки вероятнее. Расчёт (10+35)/2=22,5 соответствовал бы равным вероятностям типов и потому решал бы другую задачу.
Частая ошибка
Не заменяйте вероятностные веса одинаковыми долями, если группы встречаются с разной частотой. Не требуйте независимости X и Y: при независимости условные средние не меняются, но закон полезен при зависимости. Не путайте E[X|Y] с E[X]/Y и не делите среднее на условие. Не используйте разбиение с пропущенным сценарием: вероятности должны покрывать все исходы, иначе найдено среднее только неполной модели.
Практика
Задачи с решением
Среднее по двум тарифам
Условие. С вероятностью 0,4 расход равен в среднем 6 кВт·ч, с вероятностью 0,6 — 11 кВт·ч. Найдите общий средний расход.
Решение. E[X]=0,4·6+0,6·11=2,4+6,6=9. Весами служат вероятности сценариев.
Ответ. 9 кВт·ч.
Случайное число попыток
Условие. N имеет E[N]=12. При данном N число успехов X имеет E[X|N]=0,25N. Найдите E[X].
Решение. E[X]=E[E[X|N]]=E[0,25N]=0,25E[N]=3.
Ответ. 3 успеха.
Дополнительные источники
- https://ocw.mit.edu/courses/18-600-probability-and-random-variables-fall-2019/pages/lecture-notes/
- https://ocw.mit.edu/courses/6-436j-fundamentals-of-probability-fall-2018/resources/lecture-notes/
Связанные формулы
Математика
Математическое ожидание дискретной случайной величины
Формула «Математическое ожидание дискретной случайной величины» задает численную характеристику вероятностной модели. Она переводит исходы, вероятности или наблюдения в показатель, который удобно считать, сравнивать и проверять.
Математика
Формула полной вероятности
Формула «Формула полной вероятности» задает численную характеристику вероятностной модели. Она переводит исходы, вероятности или наблюдения в показатель, который удобно считать, сравнивать и проверять.
Математика
Закон полной дисперсии: внутри и между группами
Закон полной дисперсии раскладывает общий разброс X на средний разброс внутри групп и разброс условных средних между группами. Группы задаёт Y. Формула помогает понять источник неопределённости, а не только получить одно число.
Математика
Неравенство Йенсена для ожидания функции
Неравенство Йенсена сравнивает значение выпуклой функции от среднего со средним её значений: φ(E[X])≤E[φ(X)]. Для вогнутой функции знак меняется. Это формальный способ учесть, что разброс влияет на нелинейное преобразование.