Математика / Матрицы, определители
k-й шаг алгоритма Gram-Schmidt
Для каждого нового столбца убирают вклад уже построенных ортонормированных направлений, затем нормируют остаток. Эта формула относится к ортогонализации столбцов матрицы и объясняет, как заменить исходный набор векторов ортонормированным базисом с верхнетреугольными коэффициентами перехода.
Формула
Проекции на старые оси удаляются, остаётся новая независимая часть.
Каждый шаг расширяет ортонормированную систему.
Обозначения
- $a_k$
- текущий исходный столбец, вектор
- $u_k$
- остаток после вычитания, вектор
- $q_k$
- новый ортонормированный столбец, вектор
Условия применения
- q1...q_{k-1} уже ортонормированы
- u_k \neq 0
Ограничения
- Численно неустойчиво для почти зависимых столбцов
- Нужен полный столбцовый ранг
Подробное объяснение
Остаток после вычитания проекций становится компонентой, не объяснимой старой системой, и может служить новым направлением.
QR-разложение превращает столбцы исходной матрицы в ортонормированный базис того же столбцового пространства. Матрица Q хранит направления, а R показывает, как каждый исходный столбец выражается через уже построенные ортонормированные направления. Верхнетреугольная форма R появляется потому, что j-й столбец зависит только от первых j направлений, если процесс идет слева направо. Это делает разложение удобным для решения систем: ортогональное умножение не усиливает длину ошибки, а треугольную систему с R можно решить обратным ходом. Для страницы "k-й шаг алгоритма Gram-Schmidt" ключевая польза не в механическом запоминании формулы, а в понимании роли двух частей: Q отвечает за устойчивую геометрию, R - за координаты в этой геометрии.
Дополнительно важно различать теоретическую и вычислительную сторону темы "k-й шаг алгоритма Gram-Schmidt". В точной алгебре достаточно записать ортогональность и треугольную структуру, но в численном расчете проверяют потерю ортогональности, масштаб столбцов и устойчивость к почти линейной зависимости. Поэтому корректная страница должна объяснять не только саму формулу, но и то, почему она предпочтительнее прямого обращения матрицы.
Как пользоваться формулой
- Вычислите q_j^T a_k для j<k.
- Найдите u_k вычитанием взвешенных q_j.
- Нормируйте, получая q_k.
- После вычисления проверьте одновременно два равенства: Q^T Q=I и QR=A с допустимой численной погрешностью.
Историческая справка
Итеративная схема Грама-Шмидта — классический практичный способ построения ортогональных базисов.
Ортогонализация как вычислительная идея выросла из работ по векторам, проекциям и методу наименьших квадратов. В современном виде QR-разложение стало особенно важным после появления машинных вычислений, когда стало ясно, что нормальные уравнения могут ухудшать обусловленность. Методы Грама-Шмидта, Хаусхолдера и Гивенса дали разные способы получить ту же структуру Q и R, но с разной численной устойчивостью.
В послевоенной численной математике ортогональные разложения стали одним из ответов на ограниченную точность машинных вычислений. QR-разложение оказалось удобным компромиссом: оно сохраняет геометрию задачи и приводит ее к треугольной системе, которую можно надежно решать.
Историческая линия формулы
Алгоритм активно используется во всех курсах линейной алгебры как базовый инструмент QR. Связь с процессом Грама-Шмидта относится к построению ортонормированного базиса. Современная вычислительная роль QR-разложения сформировалась в численной линейной алгебре XX века и не сводится к одному автору.
Пример
a1=(1,1), a2=(1,-1): q1=(1/√2,1/√2), q1^Ta2=0, q2=(-1/√2,1/√2). В вычислительном примере для "k-й шаг алгоритма Gram-Schmidt" важно контролировать два свойства одновременно. Во-первых, столбцы Q должны иметь единичную длину и быть попарно ортогональны, то есть Q^T Q близко к единичной матрице. Во-вторых, произведение QR должно восстанавливать исходную матрицу A с допустимой погрешностью. Если первое свойство выполнено, но A не восстанавливается, ошибка вероятна в коэффициентах R. Если A восстанавливается, но Q^T Q заметно отличается от I, разложение может быть непригодным для устойчивых расчетов.
Частая ошибка
Забывают вычитать по всем предыдущим векторам q_j. Частая ошибка - воспринимать QR как обычное разложение на любые две матрицы. Смысл QR именно в ортонормированности Q и верхнетреугольности R. Также нельзя забывать, что классический процесс Грама-Шмидта может быть численно нестабилен для почти зависимых столбцов; в практических вычислениях часто используют модифицированный вариант, отражения Хаусхолдера или вращения Гивенса.
Практика
Задачи с решением
Вычислить q2
Условие. a1=(2,1), a2=(1,2)
Решение. q1=(2/√5,1/√5), q1^T a2=4/√5, q2=(-1/√5,2/√5)
Ответ. q2=(-1/√5,2/√5)
Ортогональный случай
Условие. a1=(1,1), a2=(1,-1)
Решение. q2=(1/√2,-1/√2)
Ответ. q2=(1/√2,-1/√2)
Дополнительные источники
- Golub & Van Loan, Matrix Computations
- Strang, Introduction to Linear Algebra
- MIT OCW 18.06SC
Связанные формулы
Математика
Первый вектор в Gram-Schmidt
Нормировка первого столбца задает первый ортонормированный вектор. Эта формула относится к ортогонализации столбцов матрицы и объясняет, как заменить исходный набор векторов ортонормированным базисом с верхнетреугольными коэффициентами перехода.
Математика
Коэффициенты R через скалярные произведения
После построения Q каждую колонку a_j раскладывают по уже найденным q_i. Эта формула относится к ортогонализации столбцов матрицы и объясняет, как заменить исходный набор векторов ортонормированным базисом с верхнетреугольными коэффициентами перехода.
Математика
Формула QR-разложения
Матрица A раскладывается в произведение ортонормированной матрицы Q и верхнетреугольной R. Эта формула относится к ортогонализации столбцов матрицы и объясняет, как заменить исходный набор векторов ортонормированным базисом с верхнетреугольными коэффициентами перехода.
Математика
Ортогональность векторов через скалярное произведение
Два вектора ортогональны, если их скалярное произведение равно нулю. В евклидовом пространстве это означает взаимную перпендикулярность направлений и дает алгебраический способ проверять прямые углы.