Линейная алгебра
Нормальные уравнения
Системы нормальных уравнений для задач наименьших квадратов.
5 формул
Таблица формул
| Формула | Запись | Тема | Для чего нужна |
|---|---|---|---|
| Нормальные уравнения для МНК | $A^\top A\,\hat x = A^\top b.$ | Матрицы, определители | Нормальные уравнения A^T A x = A^T b задают стационарное условие задачи МНК и позволяют найти параметры, при которых остаток ортогонален всем столбцам матрицы A. |
| Явная формула решения МНК через обратную матрицу | $\hat x=(A^\top A)^{-1}A^\top b,\qquad A^\top A\ \text{невырождена}.$ | Матрицы, определители | Если столбцы A линейно независимы, решение МНК можно записать явно как x=(A^T A)^{-1}A^T b, потому что матрица A^T A становится обратимой. |
| Холѐцкое разложение нормальных уравнений | $A^\top A = LL^\top,\; L y=A^\top b,\; L^\top \hat x = y.$ | Матрицы, определители | Разложение Холецкого применяет положительную определенность A^T A и заменяет решение нормальных уравнений двумя треугольными системами. |
| Число обусловленности для задачи МНК | $\kappa_2(A^\top A)=\frac{\sigma_{\max}^2}{\sigma_{\min}^2}=\kappa_2(A)^2.$ | Матрицы, определители | При переходе к нормальным уравнениям число обусловленности фактически возводится в квадрат, поэтому ошибки округления и шум в данных могут заметно усилиться. |
| 2×2 нормальные уравнения без полной инверсии | $\begin{aligned} \begin{bmatrix}c_{11} & c_{12}\\ c_{12} & c_{22}\end{bmatrix}\begin{bmatrix}x_1\\x_2\end{bmatrix}=\begin{bmatrix}d_1\\d_2\end{bmatrix},\;\Delta=c_{11}c_{22}-c_{12}^2,\\ x_1=\frac{c_{22}d_1-c_{12}d_2}{\Delta},\quad x_2=\frac{-c_{12}d_1+c_{11}d_2}{\Delta}. \end{aligned}$ | Матрицы, определители | Малую систему нормальных уравнений 2×2 можно решить вручную через определитель или исключение, не строя полную обратную матрицу. |