Математика / Численное решение линейных систем

Оценка ошибки решения системы через невязку и обусловленность

Относительная ошибка приближённого решения линейной системы ограничена произведением относительной невязки на число обусловленности матрицы. Оценка объясняет, почему малая невязка сама по себе не гарантирует точного решения.

Опубликовано: 4 ноября 2026 г.Обновлено: 4 ноября 2026 г.

Формула

\frac{\|\widetilde{x}-x\|}{\|x\|}\le\kappa(A)\frac{\|r\|}{\|b\|}

Схема Невязка и ошибка решения

Для плохо обусловленной диагональной матрицы невязка около 1%, а ошибка решения около 71%.

Обозначения

$A$: невырожденная квадратная матрица системы
$b$: правая часть системы
$x$: точное решение Ax=b
$\widetilde{x}$: приближённое решение
$r$: невязка b−A x̃
$\kappa(A)$: число обусловленности в выбранной согласованной норме, безразмерное

Условия применения

Матрица A квадратная и невырожденная, b≠0. Используются одна векторная норма и соответствующая ей подчинённая матричная норма. Невязка вычислена для той же системы Ax=b; приведённая оценка рассматривает точные A и b и точную арифметику при её вычислении.

Ограничения

Вычисление невязки с округлением или неточно заданные коэффициенты требуют отдельного анализа. Большая правая часть оценки не доказывает, что фактическая ошибка велика: граница может быть грубой. Для вырожденной матрицы обратная матрица и конечное число обусловленности в этой формуле не определены.

Подробное объяснение

Невязка показывает, насколько приближённый вектор нарушает уравнения: r=b−A x̃. Она измеряется в пространстве правой части, тогда как ошибка x̃−x находится в пространстве решения. Между ними стоит обратная матрица, поэтому одинаковые по размеру невязки могут давать разные ошибки в разных системах.

Поскольку Ax=b, получаем r=A(x−x̃), а значит x−x̃=A⁻¹r. Свойство подчинённой нормы даёт ||x−x̃||≤||A⁻¹||·||r||. С другой стороны, ||b||=||Ax||≤||A||·||x||. Совместив эти соотношения при b≠0, получаем относительную оценку с κ(A)=||A||·||A⁻¹||.

Число обусловленности зависит от нормы и матрицы, а не только от алгоритма решения. Для единичной матрицы κ=1: относительная невязка совпадает с относительной ошибкой в одной и той же норме. При большой κ малая невязка всё ещё допустима вместе с большой ошибкой, если её направление усиливается обратной матрицей.

Оценка односторонняя: она устанавливает потолок, но не предсказывает фактическую ошибку. Если потолок 100, нельзя заключить, что ошибка равна 100 или хотя бы велика. Если же произведение κ·||r||/||b|| мало, оно даёт полезную гарантию при выполнении условий.

На практике обратную матрицу для проверки часто не строят явно: используют оценку её нормы. Важно учитывать точность самой оценки κ и вычисления r. Также нужно использовать одну и ту же норму для векторов и совместимую матричную норму, иначе показанный вывод не работает.

Как пользоваться формулой

Проверьте, что A невырождена, b не нулевой и выбранная норма матрицы подчинена векторной норме.
Подставьте приближённое решение в исходную систему и найдите невязку r=b−A x̃.
Вычислите ||r|| и ||b|| в одной норме, затем разделите первую величину на вторую.
Найдите или надёжно оцените κ(A)=||A||·||A⁻¹|| в соответствующей матричной норме.
Умножьте относительную невязку на κ(A), получив верхнюю оценку относительной ошибки.
Учитывайте возможные погрешности данных и вычисления невязки отдельно от полученной теоретической границы.

Историческая справка

Анализ численных линейных систем развивался вместе с машинными вычислениями, когда стало необходимо различать ошибку решения и то, насколько точно приближённый ответ удовлетворяет исходным уравнениям. Невязка доступна для вычисления после решения, тогда как точное решение обычно неизвестно. Связь через обратную матрицу делает возможным оценить ошибку, но показывает зависимость гарантии от чувствительности системы.

В учебных материалах по вычислительной линейной алгебре понятие обусловленности применяется к преобразованию возмущений правой части в изменения решения. В лекциях Корнелльского университета выводится связь ошибки с A⁻¹r, а курс Иллинойса отдельно обсуждает относительную невязку и число обусловленности. Эти источники отражают современную учебную формулировку; без специального исторического исследования простое неравенство не следует приписывать одному автору.

Историческая линия формулы

Оценка следует из определения невязки, обратной матрицы и свойств согласованных норм. Это часть общей традиции анализа чувствительности линейных систем. Использованные лекции подтверждают математический вывод, но не устанавливают единственного создателя именно этой записи.

Пример

Рассмотрим A=diag(1; 0,01), b=(1; 0,01), x̃=(1; 0). Точное решение системы — x=(1; 1). Используем евклидову норму и подчинённую ей спектральную норму. Невязка r=b−A x̃=(0; 0,01), поэтому ||r||₂=0,01 и ||b||₂=√1,0001≈1,00005. Для диагональной A отношение наибольшего сингулярного числа к наименьшему равно κ₂=1/0,01=100. Правая часть оценки равна 100·0,01/√1,0001≈0,99995. Фактическая относительная ошибка ||(0;−1)||₂/||(1;1)||₂=1/√2≈0,70711, что не превышает оценку. Невязка около 1% от нормы правой части при этом соответствует ошибке около 71%: матрица усиливает ошибку по второй координате.

Частая ошибка

Не смешивайте абсолютную невязку ||r|| с относительной ||r||/||b||. Не делайте вывод о малой ошибке только из малого r: проверьте обусловленность. Не интерпретируйте верхнюю границу как фактическую ошибку. Не используйте норму матрицы одного типа с векторной нормой другого без доказательства совместимости. При b=0 относительная формула имеет нулевой знаменатель.

Практика

Задачи с решением

Граница ошибки

Условие. Для невырожденной A известно κ₂(A)=20 и ||r||₂/||b||₂=0,001. Оцените относительную ошибку.

Решение. Перемножаем число обусловленности и относительную невязку: 20·0,001=0,02.

Ответ. Не более 0,02, или 2%, в рамках условий оценки.

Единичная матрица

Условие. Пусть A=I, b=(3;4), x̃=(3;3). Найдите относительные невязку и ошибку в евклидовой норме.

Решение. x=b, r=b−x̃=(0;1). Норма r равна 1, нормы b и x равны 5; κ₂(I)=1.

Ответ. Обе величины равны 1/5=0,2.

Дополнительные источники

https://www.cs.cornell.edu/courses/cs6210/2025fa/lec/2025-09-10.html
https://cs357.cs.illinois.edu/textbook/notes/condition.html
https://lemesurierb.people.charleston.edu/numerical-methods-and-analysis-python/main/linear-equations-5-error-bounds-condition-numbers-python.html

Связанные формулы

Математика

Метод Ричардсона: стационарная итерация для Ax=b

$x^{(k+1)}=x^{(k)}+\tau(b-Ax^{(k)}),\qquad r^{(k)}=b-Ax^{(k)}$

Метод Ричардсона прибавляет к текущему приближению невязку, умноженную на параметр τ. Для симметричной положительно определённой матрицы разумный τ превращает эту простую формулу в сходящуюся стационарную итерацию.

Математика

Метод Якоби для системы линейных уравнений

$x_i^{(k+1)}=\frac{b_i-\sum_{j\ne i}a_{ij}x_j^{(k)}}{a_{ii}},\quad i=1,\ldots,n$

Метод Якоби строит новое приближение к решению Ax=b, одновременно пересчитывая все неизвестные из значений предыдущего шага. Он удобен для разреженных систем и хорошо показывает, зачем проверять сходимость, а не только выполнять заданное число итераций.

Математика

Метод Гаусса—Зейделя для системы линейных уравнений

$x_i^{(k+1)}=\frac{b_i-\sum_{j<i}a_{ij}x_j^{(k+1)}-\sum_{j>i}a_{ij}x_j^{(k)}}{a_{ii}}$

Метод Гаусса—Зейделя решает Ax=b последовательными проходами: новая компонента сразу участвует в вычислении следующих. Это обычно ускоряет простую итерацию, но делает результат одного прохода зависимым от порядка переменных.

Математика

Число обусловленности матрицы в бесконечной норме

$\kappa_\infty(A)=\|A\|_\infty\|A^{-1}\|_\infty$

Число обусловленности в бесконечной норме равно произведению максимальных сумм модулей по строкам исходной и обратной матриц. Оно показывает, насколько сильно решение системы может отреагировать на изменение правой части.