Аналитика / Статистические выводы

Ковариация многомерного сглаживания MEWMA

При общем весе λ и независимых входных наблюдениях предельная ковариация вектора MEWMA равна λ/(2 − λ), умноженному на ковариацию наблюдения. На старте действует дополнительный множитель.

Опубликовано: Обновлено:

Формула

$$\Sigma_t=\frac{\lambda}{2-\lambda}\bigl[1-(1-\lambda)^{2t}\bigr]\Sigma,\qquad \Sigma_\infty=\frac{\lambda}{2-\lambda}\Sigma$$
Схема Разброс сглаживания после запуска
024681000.030.060.090.12МножительЧисло обновленийСтартовыйПредельный

Для λ = 0,2 масштаб приближается к 1/9.

Обозначения

$Σ_t$
Ковариация сглаженного вектора после t наблюдений, —
$Σ_∞$
Предельная ковариация сглаживания, —
$Σ$
Ковариация одного входного вектора, —
$λ$
Общий вес свежего наблюдения, —
$t$
Число обработанных наблюдений, —

Условия применения

Векторы наблюдений независимы во времени и имеют одинаковую ковариацию Σ. Все координаты используют общий вес 0 < λ ≤ 1. Начальный вектор фиксирован, например равен целевому среднему. Для использования обратной ковариации дополнительно нужна её невырожденность.

Ограничения

При автокорреляции входов в ковариацию входят перекрёстные члены. Разные веса по координатам дают разные множители для элементов матрицы. Предельное значение завышает стартовую ковариацию при фиксированном начальном состоянии. Контрольную границу для последовательного мониторинга рассчитывают отдельно.

Подробное объяснение

При обновлении сглаженный вектор равен λXₜ + (1 − λ)Zₜ₋₁. Текущее наблюдение независимо от предыдущего состояния, поэтому ковариация суммы равна сумме ковариаций, умноженных на квадраты весов. Для фиксированного начального вектора стартовая ковариация равна нулю.

После раскрытия рекурсии получается ряд по степеням (1 − λ)². Общий коэффициент равен λ², а сумма геометрической прогрессии даёт стартовый множитель. В пределе степень (1 − λ)²ᵗ стремится к нулю, поэтому остаётся постоянный масштаб λ/(2 − λ).

При λ = 1 сглаженный вектор равен последнему наблюдению и имеет его ковариацию. При малом λ свежий вектор мало меняет накопленный результат. Разброс уменьшается, но на выход к предельной ковариации требуется больше наблюдений.

Общий вес масштабирует и дисперсии, и попарные ковариации одинаково. Поэтому корреляции между координатами после первого наблюдения сохраняются при ненулевых дисперсиях. Если веса различаются, это свойство может исчезнуть, и формулу с одним множителем применять нельзя.

Как пользоваться формулой

  1. Проверьте, что вес одинаков для всех координат, наблюдения независимы по времени, а стартовое состояние фиксировано.
  2. Возьмите ковариационную матрицу одного входного вектора в штатном режиме и укажите число прошедших обновлений.
  3. Рассчитайте множитель λ/(2 − λ) и для конечного времени умножьте его на 1 − (1 − λ) в степени 2t.
  4. Умножьте все элементы матрицы на полученный коэффициент и проверьте первый шаг по формуле λ²Σ.

Историческая справка

В 1992 году Синтия Лоури, Уильям Вудолл, Чарльз Чамп и Стивен Ригдон описали многомерную экспоненциально взвешенную контрольную карту. Она переносит идею сглаживания отдельной величины на векторы совместных измерений. В инженерном справочнике NIST показана общая модель с отдельными весами по координатам, а затем частный случай одного веса. Для этого случая стартовая ковариация и предельное значение записываются через один коэффициент, который умножает исходную матрицу. Именно различие этих двух вариантов важно при запуске карты после перенастройки процесса или сброса состояния. Авторы исходной статьи также сравнивали свойства карты с другими методами многомерного мониторинга.

Историческая линия формулы

Многомерную контрольную карту MEWMA описали Лоури, Вудолл, Чамп и Ригдон в 1992 году. Ковариационный коэффициент здесь выведен для общего веса из рекурсии сглаживания. Запись для конечного времени сверена с инженерным справочником NIST.

Пример

У двух датчиков ковариационная матрица имеет дисперсии 9 и 4, а ковариацию 2. Используется общий вес λ = 0,2. Найдём предельную ковариацию и сравним с первым обновлением. Множитель равен 0,2/1,8 = 1/9. Предельные дисперсии равны 1 и 4/9, попарная ковариация равна 2/9. На первом шаге множитель равен λ² = 0,04, поэтому первая дисперсия равна 9·0,04 = 0,36. Контроль по общей формуле: [1 − 0,8²]/9 = 0,36/9 = 0,04. Множители безразмерны, поэтому единицы дисперсий и ковариации остаются исходными. После двух обновлений первая дисперсия равна 0,5904: это больше 0,36 первого шага, но меньше предельной 1.

Частая ошибка

Ковариация масштабируется квадратом веса, а не самим весом. При старте нельзя подставлять предельную матрицу как точную. Для автокоррелированных наблюдений рекурсия без перекрёстных ковариаций неверна. Контрольный предел зависит от настройки всей карты, поэтому его нельзя взять из формулы ковариации.

Практика

Задачи с решением

Вес 0,5

Условие. При общем весе 0,5 входная дисперсия равна 12. Найдите предельную дисперсию сглаживания.

Решение. Множитель равен 0,5/1,5 = 1/3. Умножаем 12 на треть.

Ответ. Предельная дисперсия равна 4.

Два обновления

Условие. Пусть общий вес 0,5, входная дисперсия 16 и старт фиксирован. Найдите дисперсию после двух наблюдений.

Решение. Веса двух наблюдений равны 0,5 и 0,25. Складываем квадраты весов и умножаем на 16.

Ответ. Дисперсия равна 5.

Дополнительные источники

  • https://www.itl.nist.gov/div898/handbook/pmc/section3/pmc343.htm
  • https://stat.cmu.edu/technometrics/90-00/vol-34-01/v3401046.pdf

Связанные формулы

Аналитика

Расстояние Махаланобиса через ковариацию

$D_M=\sqrt{(x-\mu)^{\mathsf T}\Sigma^{-1}(x-\mu)}$

Расстояние Махаланобиса измеряет отклонение вектора от центра с учётом масштаба и корреляции признаков. Его квадрат вычисляется как квадратичная форма с обратной ковариацией.

Аналитика

Одновыборочный критерий Хотеллинга T²

$T^2=n(\bar x-\mu_0)^{\mathsf T}S^{-1}(\bar x-\mu_0),\qquad F=\frac{n-p}{p(n-1)}T^2$

Одновыборочный критерий Хотеллинга проверяет заданный вектор средних с учётом ковариации признаков. Для нормальной выборки статистика пересчитывается в F-распределение.

Математика

Ковариация двух случайных величин

$\operatorname{Cov}(X,Y)=M[(X-MX)(Y-MY)]$

Формула «Ковариация двух случайных величин» задает численную характеристику вероятностной модели. Она переводит исходы, вероятности или наблюдения в показатель, который удобно считать, сравнивать и проверять.