Математика / Матрицы, определители

Коэффициенты R через скалярные произведения

После построения Q каждую колонку a_j раскладывают по уже найденным q_i. Эта формула относится к ортогонализации столбцов матрицы и объясняет, как заменить исходный набор векторов ортонормированным базисом с верхнетреугольными коэффициентами перехода.

Опубликовано: Обновлено:

Формула

$$R_{ij}=q_i^{\top}a_j,\quad a_j=\sum_{i=1}^{j}R_{ij}q_i,\quad R_{ij}=0\ (i>j)$$
projection-subspace-orthonormal Коэффициенты в матрице R

На каждом шаге вклад каждой колонки разлагается только в уже построенные оси.

Ниже диагонали остаются нули.

Обозначения

$R_{ij}$
коэффициент между q_i и a_j, скаляр
$R$
верхнетреугольная матрица, матрица
$a_j$
j-й исходный столбец, вектор

Условия применения

  • Q построен и ортонормирован
  • столбцы обрабатываются по порядку

Ограничения

  • При численной ошибки нижняя часть может быть не строго нулевая
  • вырождение даёт нулевые диагонали

Подробное объяснение

Скалярное произведение с q_i выделяет вклад именно по этому базисному направлению, а из-за ортонормальности формируется верхнетреугольная структура.

QR-разложение превращает столбцы исходной матрицы в ортонормированный базис того же столбцового пространства. Матрица Q хранит направления, а R показывает, как каждый исходный столбец выражается через уже построенные ортонормированные направления. Верхнетреугольная форма R появляется потому, что j-й столбец зависит только от первых j направлений, если процесс идет слева направо. Это делает разложение удобным для решения систем: ортогональное умножение не усиливает длину ошибки, а треугольную систему с R можно решить обратным ходом. Для страницы "Коэффициенты R через скалярные произведения" ключевая польза не в механическом запоминании формулы, а в понимании роли двух частей: Q отвечает за устойчивую геометрию, R - за координаты в этой геометрии.

Как пользоваться формулой

  1. Для каждого j вычислите R_{ij}, i=1..j
  2. Остальные позиции i>j равны 0
  3. Проверяйте восстановление a_j как суммы R_{ij}q_i
  4. После вычисления проверьте одновременно два равенства: Q^T Q=I и QR=A с допустимой численной погрешностью.

Историческая справка

Верхнетреугольная форма R делает разложение удобным для последующих вычислений.

Ортогонализация как вычислительная идея выросла из работ по векторам, проекциям и методу наименьших квадратов. В современном виде QR-разложение стало особенно важным после появления машинных вычислений, когда стало ясно, что нормальные уравнения могут ухудшать обусловленность. Методы Грама-Шмидта, Хаусхолдера и Гивенса дали разные способы получить ту же структуру Q и R, но с разной численной устойчивостью.

В послевоенной численной математике ортогональные разложения стали одним из ответов на ограниченную точность машинных вычислений. QR-разложение оказалось удобным компромиссом: оно сохраняет геометрию задачи и приводит ее к треугольной системе, которую можно надежно решать.

Историческая линия формулы

Эта запись отражает практический вывод последовательной ортогонализации. Связь с процессом Грама-Шмидта относится к построению ортонормированного базиса. Современная вычислительная роль QR-разложения сформировалась в численной линейной алгебре XX века и не сводится к одному автору.

Пример

q1=(1/√2,1/√2), q2=(-1/√2,1/√2), a2=(2,3): R12=5/√2, R22=1/√2. В вычислительном примере для "Коэффициенты R через скалярные произведения" важно контролировать два свойства одновременно. Во-первых, столбцы Q должны иметь единичную длину и быть попарно ортогональны, то есть Q^T Q близко к единичной матрице. Во-вторых, произведение QR должно восстанавливать исходную матрицу A с допустимой погрешностью. Если первое свойство выполнено, но A не восстанавливается, ошибка вероятна в коэффициентах R. Если A восстанавливается, но Q^T Q заметно отличается от I, разложение может быть непригодным для устойчивых расчетов.

Частая ошибка

Смешивание индексов и заполняние элементов под диагональю неверными значениями. Частая ошибка - воспринимать QR как обычное разложение на любые две матрицы. Смысл QR именно в ортонормированности Q и верхнетреугольности R. Также нельзя забывать, что классический процесс Грама-Шмидта может быть численно нестабилен для почти зависимых столбцов; в практических вычислениях часто используют модифицированный вариант, отражения Хаусхолдера или вращения Гивенса.

Практика

Задачи с решением

Найти коэффициенты R

Условие. q1=(1/√2,1/√2), q2=(-1/√2,1/√2), a2=(2,3)

Решение. R12=5/√2, R22=1/√2

Ответ. R12=5/√2, R22=1/√2

Первый коэффициент

Условие. a1=(1,1), q1=(1/√2,1/√2)

Решение. R11=q1^Ta1=√2

Ответ. R11=√2

Дополнительные источники

  • Golub, Matrix Computations
  • MIT OCW 18.06SC
  • Trefethen, Numerical Linear Algebra

Связанные формулы

Математика

k-й шаг алгоритма Gram-Schmidt

$u_k=a_k-\sum_{j=1}^{k-1}(q_j^{\top}a_k)\,q_j,\quad q_k=\frac{u_k}{\|u_k\|}$

Для каждого нового столбца убирают вклад уже построенных ортонормированных направлений, затем нормируют остаток. Эта формула относится к ортогонализации столбцов матрицы и объясняет, как заменить исходный набор векторов ортонормированным базисом с верхнетреугольными коэффициентами перехода.

Математика

Формула QR-разложения

$A = QR,\quad Q^{\top}Q=I_r,\quad R \text{ верхнетреугольная}$

Матрица A раскладывается в произведение ортонормированной матрицы Q и верхнетреугольной R. Эта формула относится к ортогонализации столбцов матрицы и объясняет, как заменить исходный набор векторов ортонормированным базисом с верхнетреугольными коэффициентами перехода.

Математика

Проекция вектора на ненормированный вектор

$\operatorname{proj}_{u}(v)=\frac{u^{\top}v}{u^{\top}u}\,u$

Проекция вектора v на направление u вычисляется через скалярное произведение с нормированием на длину u. Эта формула связывает вычисление с геометрическим смыслом ортогонального разложения: она показывает, какая часть вектора идет вдоль выбранного направления, а какая остается поперек него.

Математика

Наименьшие квадраты через QR

$\hat{x}=R^{-1}Q^{\top}b,\quad A=QR$

После QR-раскладывания задача минимизации сводится к решению треугольной системы. Формула показывает устойчивый способ работать с задачей наименьших квадратов через ортогональную геометрию, а не через прямое обращение матрицы или слепое использование нормальных уравнений.