Математика / Матрицы, определители

Расстояние до подпространства через проекцию

Расстояние от вектора x до подпространства W равно длине ортогонального остатка после проекции x на W. Проекция дает ближайший вектор внутри W.

Опубликовано: Обновлено:

Формула

$$\operatorname{dist}(x,W)=\|x-\operatorname{proj}_{W}x\|$$
distance-to-subspace Расстояние как длина перпендикулярного остатка

Схема показывает x, подпространство W, ближайшую точку proj_W x и остаток r под прямым углом.

Минимальное расстояние измеряется не вдоль W, а по ортогональному остатку.

Обозначения

$x$
исходный вектор, вектор
$W$
подпространство, подпространство
$\operatorname{proj}_{W}x$
ортогональная проекция x на W, вектор
$x-\operatorname{proj}_{W}x$
ортогональный остаток, вектор
$\operatorname{dist}(x,W)$
расстояние от x до W, число

Условия применения

  • W должно быть подпространством в евклидовом пространстве или пространстве со скалярным произведением.
  • Проекция должна быть ортогональной относительно выбранного скалярного произведения.
  • Норма в формуле должна соответствовать тому же скалярному произведению.

Ограничения

  • Для аффинного подпространства, не проходящего через начало, сначала вычитают опорную точку.
  • Если проекция вычислена неверно или неортогонально, длина остатка не даст минимальное расстояние.
  • В нестандартных нормах ближайшая точка может не совпадать с ортогональной проекцией.

Подробное объяснение

Ортогональная проекция proj_W x является ближайшим к x вектором из W. Разность r=x-proj_W x лежит в W^perp, поэтому она перпендикулярна любому движению внутри W. Если взять любой другой y из W, то x-y можно записать как r+(proj_W x-y). Эти две части ортогональны, значит по теореме Пифагора ||x-y||^2=||r||^2+||proj_W x-y||^2. Вторая часть неотрицательна, поэтому минимальная длина достигается именно при y=proj_W x.

Формула расстояния через остаток важна тем, что отделяет вычисление ближайшей точки от вычисления ошибки. Сначала находят проекцию, затем вычитают ее из x и берут норму. В координатных задачах это позволяет получать расстояния до прямых и плоскостей без отдельной геометрической формулы для каждого случая.

В прикладных задачах W часто является пространством возможных предсказаний модели. Если точный вектор данных x не лежит в W, проекция дает лучшее приближение в смысле евклидовой нормы, а ||x-proj_W x|| становится размером остаточной ошибки. Поэтому формула является геометрическим сердцем метода наименьших квадратов.

Как пользоваться формулой

  1. Найдите или постройте ортогональную проекцию x на W.
  2. Вычислите остаток r=x-proj_W x.
  3. Проверьте, что r ортогонален W, если требуется обоснование.
  4. Найдите норму ||r||.
  5. Запишите это число как расстояние от x до W.

Историческая справка

Идея расстояния до прямой или плоскости через перпендикулярный отрезок является классической геометрической конструкцией. Современная линейная алгебра обобщила ее на произвольные подпространства с помощью ортогональных проекций и норм. Этот переход стал возможен благодаря развитию языка векторных пространств, подпространств и скалярных произведений. Грассманова линия подпространств объясняет, почему можно говорить о W и W^perp в любой размерности, а не только о прямых и плоскостях на чертеже. В прикладной математике та же идея стала фундаментом наименьших квадратов: ошибка измеряется длиной ортогонального остатка. Поэтому формула одинаково полезна в геометрии, статистике и вычислительных задачах.

Историческая линия формулы

Формула расстояния через проекцию является современной записью классического принципа ближайшего перпендикуляра. Она связана с геометрией, теорией подпространств и развитием проекционных методов, а не с единоличным авторством.

Пример

Пусть W - плоскость xy в R^3, а x=(2,-1,6). Проекция на W равна (2,-1,0). Остаток x-proj_W x=(0,0,6), его длина равна 6. Значит расстояние от x до плоскости xy равно 6. Это совпадает с геометрической интуицией: ближайшая точка получается вертикальным опусканием перпендикуляра. Если бы мы взяли другую точку плоскости, например (0,0,0), расстояние до нее было бы sqrt(2^2+(-1)^2+6^2)=sqrt(41), больше 6. Проекция выбирает именно ближайшую точку, а остаток измеряет ошибку. В практической задаче этот остаток можно читать как часть x, которую подпространство W не смогло объяснить.

Частая ошибка

Частая ошибка - считать расстоянием длину самой проекции, а не длину остатка. Проекция показывает ближайшую точку внутри W, а расстояние измеряется от x до этой точки. Вторая ошибка - забывать модуль или норму и оставлять векторный остаток вместо числа. Третья ошибка - применять формулу к произвольной точке W, не доказывая, что это ортогональная проекция. Еще одна ошибка - для прямой или плоскости не через начало забывать перенос к направляющему подпространству.

Практика

Задачи с решением

Расстояние до координатной оси

Условие. Найдите расстояние от x=(3,4) до оси Ox.

Решение. Проекция на Ox равна (3,0). Остаток (0,4), его длина 4.

Ответ. 4.

Расстояние до плоскости

Условие. Найдите расстояние от x=(1,2,-5) до плоскости z=0.

Решение. Проекция равна (1,2,0). Остаток (0,0,-5), норма равна 5.

Ответ. 5.

Дополнительные источники

  • Interactive Linear Algebra, Margalit and Rabinoff, Closest Vector and Distance
  • MIT OpenCourseWare 18.06SC, Projections onto Subspaces
  • Jim Hefferon, Linear Algebra, Orthogonal Projection

Связанные формулы

Математика

Ортогональная проекция на прямую

$\operatorname{proj}_{u}v=\frac{v\cdot u}{u\cdot u}u$

Ортогональная проекция вектора v на прямую, заданную ненулевым вектором u, равна такому кратному u, что остаток v-proj_u v перпендикулярен прямой.

Математика

Норма вектора через скалярное произведение

$\|v\|=\sqrt{v\cdot v}$

Длина вектора в евклидовом пространстве равна квадратному корню из его скалярного произведения с самим собой. Формула связывает геометрическую длину с алгебраической операцией над координатами.

Математика

Ортогональное дополнение подпространства

$W^{\perp}=\{x:\ x\cdot w=0\ \text{для всех }w\in W\},\quad \dim W+\dim W^{\perp}=n$

Ортогональное дополнение W^perp состоит из всех векторов, перпендикулярных каждому вектору подпространства W. В R^n его размерность дополняет размерность W до n.