Математика / Матрицы, определители
Спектральная норма через сингулярные числа
Спектральная норма матрицы равна ее наибольшему сингулярному числу. Она показывает максимальный коэффициент растяжения вектора при действии линейного отображения.
Формула
Единичная окружность после действия матрицы превращается в эллипс, большая полуось соответствует sigma_max.
Спектральная норма показывает самую длинную полуось образа единичной окружности.
Обозначения
- $A$
- матрица линейного отображения, безразмерная
- $\|A\|_2$
- спектральная норма матрицы, безразмерная
- $\sigma_{\max}$
- наибольшее сингулярное число, безразмерная
- $\lambda_{\max}(A^TA)$
- наибольшее собственное значение матрицы A^T A, безразмерная
Условия применения
- Норма рассматривается как операторная норма, согласованная с евклидовой нормой вектора.
- Матрица A может быть прямоугольной.
- Для комплексных матриц вместо A^T используется эрмитово сопряжение.
Ограничения
- Для больших матриц точное вычисление нормы может требовать итерационных методов.
- Спектральная норма показывает худший случай и может быть слишком консервативной для средних сценариев.
- Если данные плохо масштабированы, интерпретация величины нормы без нормировки может быть обманчивой.
Подробное объяснение
Операторная норма отвечает на вопрос: насколько сильно матрица может растянуть единичный вектор. Если представить действие матрицы через SVD, ортогональные множители не меняют длину, а диагональная матрица Sigma растягивает координаты на сингулярные числа. Наибольшее растяжение получается вдоль направления, соответствующего максимальному sigma_i, поэтому норма равна sigma_max. Эквивалентная запись через квадратный корень из максимального собственного значения A^T A следует из того, что собственные значения A^T A равны квадратам сингулярных чисел. Это делает формулу мостом между геометрией линейного отображения и спектральным анализом симметричной положительно полуопределенной матрицы. При работе с этой формулой важно сначала проверить размерности матриц и смысл операции. В линейной алгебре многие ошибки выглядят как верные алгебраические преобразования, но ломаются на уровне размеров: нельзя менять порядок множителей, если произведение после перестановки уже не определено, и нельзя считать обратную матрицу существующей без проверки невырожденности. В численных задачах дополнительно смотрят на обусловленность, потому что формально корректная запись может давать нестабильный ответ при округлении. Поэтому формулу полезно читать не только как способ вычисления, но и как способ увидеть структуру задачи: какие подпространства участвуют, где появляется проекция, где требуется ортогональность, а где достаточно рангового обновления.
Как пользоваться формулой
- Определите, нужна ли именно операторная норма по евклидовой длине.
- Вычислите SVD или найдите наибольшее собственное значение A^T A.
- Возьмите максимальное сингулярное число или корень из максимального собственного значения.
- Используйте результат как верхнюю границу растяжения векторов и ошибок.
Историческая справка
Операторные нормы развивались вместе с функциональным анализом и численной линейной алгеброй. Спектральная норма стала стандартным инструментом, когда матричные вычисления начали анализировать не только на точность формулы, но и на устойчивость алгоритма. Связь с SVD сделала ее особенно удобной для приложений. Современная запись этой формулы сложилась не сразу. Сначала похожие идеи появлялись в задачах решения систем линейных уравнений, теории квадратичных форм, аналитической механике и статистике, где матрицы использовали как компактный язык для больших наборов коэффициентов. В XX веке развитие численного анализа, вычислительной техники и прикладной статистики сделало такие тождества особенно важными: стало нужно не просто доказать существование решения, а уметь устойчиво считать его на реальных данных. Поэтому историческую атрибуцию здесь лучше понимать как цепочку вкладов: алгебраическая идея, удобная матричная запись, численный алгоритм и прикладная интерпретация часто были оформлены разными авторами и школами.
Пример
Если спектральная норма матрицы равна 12, то существует направление, в котором матрица увеличивает длину вектора в 12 раз. Для всех остальных направлений растяжение не превысит 12. Например, при оценке погрешности это означает, что ошибка входных данных длиной 0.01 может дать ошибку результата длиной до 0.12. Такой расчет не говорит, что рост обязательно будет максимальным, но дает надежную верхнюю границу. В практическом расчете для "Спектральная норма через сингулярные числа" полезно после получения чисел проверить два факта: ортогональные множители не должны менять длину вектора, а диагональная часть должна отвечать за все растяжение. Например, если одно сингулярное число намного меньше остальных, соответствующее направление почти исчезает при действии матрицы. В анализе данных это часто означает шумовое или слабо наблюдаемое направление, а в решении систем - источник неустойчивости. Поэтому пример с числами нужно читать не только как подстановку в формулу \|A\|_2=\sigma_{\max}(A)=\sqrt{\lambda_{\max}(A^TA)}, но и как диагностику того, какие направления матрица сохраняет, усиливает или почти теряет.
Частая ошибка
Часто спектральную норму путают с максимальным по модулю элементом матрицы. Это разные величины: норма зависит от совместного действия всех элементов на вектор. Еще одна ошибка - использовать собственные значения A для прямоугольной или несимметричной матрицы вместо сингулярных чисел. Для общей матрицы корректный путь идет через A^T A или SVD.
Практика
Задачи с решением
Норма диагональной матрицы
Условие. Матрица A=diag(3, -5). Найдите ||A||_2.
Решение. Сингулярные числа диагональной матрицы равны модулям диагональных элементов: 3 и 5. Наибольшее из них равно 5.
Ответ. ||A||_2 = 5.
Оценка роста ошибки
Условие. Если ||A||_2=8, а ||delta x||_2=0.02, оцените сверху ||A delta x||_2.
Решение. По определению операторной нормы ||A delta x||_2 <= ||A||_2 ||delta x||_2 = 8 * 0.02 = 0.16.
Ответ. Не больше 0.16.
Дополнительные источники
- Г. Стрэнг, Введение в линейную алгебру
- Д. Лэй, Линейная алгебра и ее приложения
- G. H. Golub, C. F. Van Loan, Matrix Computations
- MIT OpenCourseWare, Linear Algebra
Связанные формулы
Математика
Сингулярное разложение матрицы
Сингулярное разложение представляет матрицу как произведение двух ортогональных матриц и диагональной матрицы сингулярных чисел. Это универсальная форма разложения, которая работает для прямоугольных матриц и показывает главные направления действия линейного отображения.
Математика
Ранг матрицы через сингулярные числа
Ранг матрицы равен количеству ненулевых сингулярных чисел. Эта формула связывает алгебраическое понятие размерности образа с численной диагностикой зависимости строк и столбцов.
Математика
Число обусловленности для задачи МНК
При переходе к нормальным уравнениям число обусловленности фактически возводится в квадрат, поэтому ошибки округления и шум в данных могут заметно усилиться.
Математика
Норма Фробениуса через след и сингулярные числа
Квадрат нормы Фробениуса равен следу матрицы A^T A, сумме квадратов всех элементов и сумме квадратов сингулярных чисел. Это удобная мера общего размера матрицы.