Проекция (линейная алгебра) - Projection (linear algebra)

Преобразование P - это ортогональная проекция на прямую m .

В линейной алгебры и функционального анализа , А проекция является линейное преобразование из векторного пространства в себя такое , что . То есть всякий раз, когда применяется дважды к любому значению, он дает такой же результат, как если бы он был применен один раз ( идемпотент ). Это оставляет неизменным свой имидж. Хотя это абстрактное определение «проекции» формализует и обобщает идею графической проекции . Можно также рассмотреть влияние проекции на геометрический объект, исследуя влияние проекции на точки в объекте. ${\ displaystyle P}$${\ Displaystyle P ^ {2} = P}$${\ displaystyle P}$

Определения

Проекция на векторном пространстве является линейным оператором таким образом, что . ${\ displaystyle V}$${\ displaystyle P: V \ to V}$${\ Displaystyle P ^ {2} = P}$

Когда есть внутренний продукт и он завершен (т. Е. Когда это гильбертово пространство ), можно использовать концепцию ортогональности . Проекция на гильбертово пространство называется ортогональной проекцией, если она удовлетворяет всем . Неортогональная проекция на гильбертово пространство называется наклонной проекцией . ${\ displaystyle V}$${\ displaystyle V}$${\ displaystyle P}$${\ displaystyle V}$${\ displaystyle \ langle P \ mathbf {x}, \ mathbf {y} \ rangle = \ langle \ mathbf {x}, P \ mathbf {y} \ rangle}$${\ displaystyle \ mathbf {x}, \ mathbf {y} \ in V}$

Матрица проекции

• В конечномерном случае квадратная матрица называется проекционной матрицей, если она равна своему квадрату, т. Е. Если .${\ displaystyle P}$${\ Displaystyle P ^ {2} = P}$
• Квадратная матрица называется ортогональной матрицей проекции , если для вещественной матрицы, и , соответственно , для комплексной матрицы, где обозначает транспонирование и обозначает сопряженные или эрмитову транспонированные о .${\ displaystyle P}$${\ Displaystyle P ^ {2} = P = P ^ {\ mathrm {T}}}$${\ Displaystyle P ^ {2} = P = P ^ {*}}$${\ Displaystyle P ^ {\ mathrm {T}}}$${\ displaystyle P}$${\ Displaystyle P ^ {*}}$${\ displaystyle P}$
• Матрица проекции, которая не является ортогональной матрицей проекции, называется матрицей наклонной проекции .

Собственные значения матрицы проекции должны быть 0 или 1.

Примеры

Ортогональная проекция

Например, функция, которая отображает точку в трехмерном пространстве на точку, является ортогональной проекцией на плоскость xy . Эта функция представлена матрицей${\ Displaystyle (х, у, г)}$${\ Displaystyle \ mathbb {R} ^ {3}}$${\ Displaystyle (х, у, 0)}$

${\ displaystyle P = {\ begin {bmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 0 \ end {bmatrix}}.}$

Действие этой матрицы на произвольный вектор есть

${\ displaystyle P {\ begin {bmatrix} x \\ y \\ z \ end {bmatrix}} = {\ begin {bmatrix} x \\ y \\ 0 \ end {bmatrix}}.}$

Чтобы увидеть, что это действительно проекция, т. Е. Вычисляем ${\ displaystyle P}$${\ Displaystyle P = P ^ {2}}$

${\ displaystyle P ^ {2} {\ begin {bmatrix} x \\ y \\ z \ end {bmatrix}} = P {\ begin {bmatrix} x \\ y \\ 0 \ end {bmatrix}} = { \ begin {bmatrix} x \\ y \\ 0 \ end {bmatrix}} = P {\ begin {bmatrix} x \\ y \\ z \ end {bmatrix}}}$.

Наблюдение, которое показывает, что проекция является ортогональной проекцией. ${\ Displaystyle P ^ {\ mathrm {T}} = P}$

Косая проекция

Простым примером неортогональной (наклонной) проекции (определение см. Ниже) является

${\ displaystyle P = {\ begin {bmatrix} 0 & 0 \\\ alpha & 1 \ end {bmatrix}}.}$

Через умножение матриц видно , что

${\ displaystyle P ^ {2} = {\ begin {bmatrix} 0 & 0 \\\ alpha & 1 \ end {bmatrix}} {\ begin {bmatrix} 0 & 0 \\\ alpha & 1 \ end {bmatrix}} = {\ begin { bmatrix} 0 & 0 \\\ alpha & 1 \ end {bmatrix}} = P.}$

доказывая, что это действительно проекция. ${\ displaystyle P}$

Проекция ортогональна тогда и только тогда, потому что только тогда . ${\ displaystyle P}$${\ Displaystyle \ альфа = 0}$${\ Displaystyle P ^ {\ mathrm {T}} = P}$

Свойства и классификация

Преобразование T - это проекция вдоль k на m . Диапазон T равен m, а нулевое пространство - k .

Идемпотентность

По определению, проекция является идемпотентная (т.е. ). ${\ displaystyle P}$${\ Displaystyle P ^ {2} = P}$

Дополнительность диапазона и ядра

Позвольте быть конечномерным векторным пространством и быть проекцией на . Пусть подпространства и являются диапазон и ядро из соответственно. Тогда обладает следующими свойствами: ${\ displaystyle W}$${\ displaystyle P}$${\ displaystyle W}$ ${\ displaystyle U}$${\ displaystyle V}$${\ displaystyle P}$${\ displaystyle P}$

1. ${\ displaystyle P}$является тождественным оператором на${\ displaystyle I}$${\ displaystyle U}$

   ${\ Displaystyle \ forall \ mathbf {x} \ в U: P \ mathbf {x} = \ mathbf {x}}$.

2. У нас есть прямая сумма . Каждый вектор может быть разложен однозначно как с и , и где .${\ Displaystyle W = U \ oplus V}$${\ displaystyle \ mathbf {x} \ in W}$${\ Displaystyle \ mathbf {x} = \ mathbf {u} + \ mathbf {v}}$${\ displaystyle \ mathbf {u} = P \ mathbf {x}}$${\ Displaystyle \ mathbf {v} = \ mathbf {x} -P \ mathbf {x} = \ left (IP \ right) \ mathbf {x}}$${\ displaystyle \ mathbf {u} \ in U, \ mathbf {v} \ in V}$

Диапазон и ядро ​​проекции дополняют друг друга , как и . Оператор также является проекцией, поскольку диапазон и ядро становятся ядром и диапазоном, и наоборот. Мы говорим, что это проекция на (ядро / диапазон) и это проекция на . ${\ displaystyle P}$${\ displaystyle Q = IP}$${\ displaystyle Q}$${\ displaystyle P}$${\ displaystyle Q}$${\ displaystyle P}$${\ displaystyle V}$${\ displaystyle U}$${\ displaystyle Q}$${\ displaystyle U}$${\ displaystyle V}$

Спектр

В бесконечномерных векторных пространствах спектр проекции содержится в как ${\ displaystyle \ {0,1 \}}$

${\ displaystyle (\ lambda IP) ^ {- 1} = {\ frac {1} {\ lambda}} I + {\ frac {1} {\ lambda (\ lambda -1)}} P.}$

Только 0 или 1 могут быть собственными значениями проекции. Это означает, что ортогональная проекция всегда является положительно полуопределенной матрицей. В общем, соответствующие собственные подпространства являются (соответственно) ядром и диапазоном проекции. Разложение векторного пространства на прямые суммы не единственно. Следовательно, для данного подпространства может быть много проекций, диапазон (или ядро) которых равен . ${\ displaystyle P}$${\ displaystyle V}$${\ displaystyle V}$

Если проекция нетривиальна, она имеет минимальный многочлен , который делится на различные корни и, таким образом , диагонализуем . ${\ Displaystyle х ^ {2} -x = х (х-1)}$${\ displaystyle P}$

Продукт прогнозов

Продукт проекций, как правило, не является проекцией, даже если они ортогональны. Если две проекции коммутируют, то их произведение является проекцией, но обратное неверно: произведение двух некоммутирующих проекций может быть проекцией.

Если два ортогональных проектора коммутируют, то их произведение является ортогональным проектором. Если продукт двух ортогональных проекций является ортогональным проектором, то эти два ортогональных проектора коммутируют (в более общем смысле: два самосопряженных эндоморфизма коммутируют тогда и только тогда, когда их произведение самосопряжено).

Ортогональные проекции

Когда векторное пространство имеет внутренний продукт и является полным (является гильбертовым пространством ), можно использовать концепцию ортогональности . Ортогональная проекция является проекцией , для которого диапазон и нуль - пространство являются ортогональные подпространства . Таким образом, для каждого и в , . Эквивалентно: ${\ displaystyle W}$${\ displaystyle U}$${\ displaystyle V}$${\ displaystyle \ mathbf {x}}$${\ displaystyle \ mathbf {y}}$${\ displaystyle W}$${\ displaystyle \ langle P \ mathbf {x}, (\ mathbf {y} -P \ mathbf {y}) \ rangle = \ langle (\ mathbf {x} -P \ mathbf {x}), P \ mathbf { y} \ rangle = 0}$

${\ displaystyle \ langle \ mathbf {x}, P \ mathbf {y} \ rangle = \ langle P \ mathbf {x}, P \ mathbf {y} \ rangle = \ langle P \ mathbf {x}, \ mathbf { y} \ rangle.}$

Проекция ортогональна тогда и только тогда, когда она самосопряжена . Используя Самосопряженные и идемпотентным свойство для любого и в нас есть , и ${\ displaystyle P}$${\ displaystyle \ mathbf {x}}$${\ displaystyle \ mathbf {y}}$${\ displaystyle W}$${\ displaystyle P \ mathbf {x} \ in U}$${\ displaystyle \ mathbf {y} -P \ mathbf {y} \ in V}$

${\ displaystyle \ langle P \ mathbf {x}, \ mathbf {y} -P \ mathbf {y} \ rangle = \ langle P ^ {2} \ mathbf {x}, \ mathbf {y} -P \ mathbf { y} \ rangle = \ langle P \ mathbf {x}, P \ left (IP \ right) \ mathbf {y} \ rangle = \ langle P \ mathbf {x}, \ left (PP ^ {2} \ right) \ mathbf {y} \ rangle = 0}$

где есть скалярное произведение , связанное с . Следовательно, и являются ортогональными проекциями. Другое направление, а именно, что если ортогонально, то самосопряженное, следует из ${\ Displaystyle \ langle \ cdot, \ cdot \ rangle}$${\ displaystyle W}$${\ displaystyle P}$${\ displaystyle IP}$${\ displaystyle P}$

${\ displaystyle \ langle \ mathbf {x}, P \ mathbf {y} \ rangle = \ langle P \ mathbf {x}, \ mathbf {y} \ rangle = \ langle \ mathbf {x}, P ^ {*} \ mathbf {y} \ rangle}$

для каждого и в ; таким образом . ${\ displaystyle x}$${\ displaystyle y}$${\ displaystyle W}$${\ Displaystyle P = P ^ {*}}$

Доказательство существования

Пусть полное метрическое пространство с внутренним произведением , и пусть замкнутое линейное подпространство в (и , следовательно , полное, а). ${\ displaystyle H}$${\ displaystyle U}$${\ displaystyle H}$ Для каждого следующего набора неотрицательных значений- норм имеет нижнюю грань , а в силу ее полноты является минимумом . Мы определяем как точку, в которой достигается этот минимум. ${\ displaystyle \ mathbf {x}}$${\ Displaystyle \ {\ | \ mathbf {x} - \ mathbf {u} \ | \ mid \ mathbf {u} \ in U \}}$${\ displaystyle U}$${\ displaystyle P \ mathbf {x}}$${\ displaystyle U}$ Очевидно находится в . Осталось показать, что удовлетворяет и что это линейно. ${\ displaystyle P \ mathbf {x}}$${\ displaystyle U}$${\ displaystyle P \ mathbf {x}}$${\ displaystyle \ langle \ mathbf {x} -P \ mathbf {x}, P \ mathbf {x} \ rangle = 0}$ Давайте определимся . Для любого ненулевого in выполняется следующее: ${\ displaystyle \ mathbf {a} = \ mathbf {x} -P \ mathbf {x}}$${\ displaystyle \ mathbf {v}}$${\ displaystyle U}$ ${\ displaystyle \ left \ | \ mathbf {a} - {\ frac {\ langle \ mathbf {a}, \ mathbf {v} \ rangle} {\ | \ mathbf {v} \ | ^ {2}}} \ mathbf {v} \ right \ | ^ {2} = \ | \ mathbf {a} \ | ^ {2} - {\ frac {{\ langle \ mathbf {a}, \ mathbf {v} \ rangle} ^ { 2}} {\ | \ mathbf {v} \ | ^ {2}}}}$ Определив, мы видим, что если не обращается в нуль. Поскольку было выбрано в качестве минимума из вышеупомянутого множества, следует, что действительно обращается в нуль. В частности, (для ): . ${\ displaystyle \ mathbf {w} = P \ mathbf {x} + {\ frac {\ langle \ mathbf {a}, \ mathbf {v} \ rangle} {\ | \ mathbf {v} \ | ^ {2} }} \ mathbf {v}}$${\ displaystyle \ | \ mathbf {x} - \ mathbf {w} \ | <\ | \ mathbf {x} -P \ mathbf {x} \ |}$${\ Displaystyle \ langle \ mathbf {а}, \ mathbf {v} \ rangle}$${\ displaystyle P \ mathbf {x}}$${\ Displaystyle \ langle \ mathbf {а}, \ mathbf {v} \ rangle}$${\ displaystyle \ mathbf {y} = P \ mathbf {x}}$${\ displaystyle \ langle \ mathbf {x} -P \ mathbf {x}, P \ mathbf {x} \ rangle = 0}$ Линейность следует из обращения в нуль для каждого : ${\ displaystyle \ langle \ mathbf {x} -P \ mathbf {x}, \ mathbf {v} \ rangle}$${\ displaystyle \ mathbf {v} \ in U}$ ${\ displaystyle \ langle \ left (\ mathbf {x} + \ mathbf {y} \ right) -P \ left (\ mathbf {x} + \ mathbf {y} \ right), \ mathbf {v} \ rangle = 0}$ ${\ displaystyle \ langle \ left (\ mathbf {x} -P \ mathbf {x} \ right) + \ left (\ mathbf {y} -P \ mathbf {y} \ right), \ mathbf {v} \ rangle = 0}$ Взяв разницу между уравнениями, мы имеем ${\ displaystyle \ langle P \ mathbf {x} + P \ mathbf {y} -P \ left (\ mathbf {x} + \ mathbf {y} \ right), \ mathbf {v} \ rangle = 0}$ Но так как мы можем выбирать (как оно есть ), отсюда следует это . Аналогично для каждого скаляра . ${\ Displaystyle \ mathbf {v} = P \ mathbf {x} + P \ mathbf {y} -P (\ mathbf {x} + \ mathbf {y})}$${\ displaystyle U}$${\ Displaystyle P \ mathbf {x} + P \ mathbf {y} = P (\ mathbf {x} + \ mathbf {y})}$${\ displaystyle \ lambda P \ mathbf {x} = P (\ lambda \ mathbf {x})}$ ${\ displaystyle \ lambda}$

Свойства и особые случаи

Ортогональная проекция - это ограниченный оператор . Это потому, что для каждого в векторном пространстве, согласно неравенству Коши – Шварца : ${\ displaystyle \ mathbf {v}}$

${\ displaystyle \ left \ | P \ mathbf {v} \ right \ | ^ {2} = \ langle P \ mathbf {v}, P \ mathbf {v} \ rangle = \ langle P \ mathbf {v}, \ mathbf {v} \ rangle \ leq \ left \ | P \ mathbf {v} \ right \ | \ cdot \ left \ | \ mathbf {v} \ right \ |}$

Итак . ${\ Displaystyle \ влево \ | п \ mathbf {v} \ right \ | \ leq \ left \ | \ mathbf {v} \ right \ |}$

Для конечномерных комплексных или вещественных векторных пространств можно заменить стандартный внутренний продукт . ${\ Displaystyle \ langle \ cdot, \ cdot \ rangle}$

Формулы

Простой случай возникает, когда ортогональная проекция находится на прямой. Если - единичный вектор на прямой, то проекция задается внешним произведением${\ displaystyle \ mathbf {u}}$

${\ displaystyle P _ {\ mathbf {u}} = \ mathbf {u} \ mathbf {u} ^ {\ mathrm {T}}.}$

(Если является комплексным, транспонирование в приведенном выше уравнении заменяется эрмитовым транспонированием). Этот оператор оставляет u инвариантным и аннулирует все векторы, ортогональные ему , доказывая, что это действительно ортогональная проекция на прямую, содержащую u . Простой способ , чтобы увидеть это, чтобы рассмотреть произвольный вектор в виде суммы компоненты на линии (т.е. прогнозируемого вектора мы ищем) , а другой перпендикулярно к ней, . Применяя проекцию, получаем ${\ displaystyle \ mathbf {u}}$${\ displaystyle \ mathbf {u}}$${\ displaystyle \ mathbf {x}}$${\ Displaystyle \ mathbf {x} = \ mathbf {x} _ {\ parallel} + \ mathbf {x} _ {\ perp}}$

${\ displaystyle P _ {\ mathbf {u}} \ mathbf {x} = \ mathbf {u} \ mathbf {u} ^ {\ mathsf {T}} \ mathbf {x} _ {\ parallel} + \ mathbf {u } \ mathbf {u} ^ {\ mathsf {T}} \ mathbf {x} _ {\ perp} = \ mathbf {u} \ left (\ operatorname {sign} (\ mathbf {u} ^ {\ mathsf {T }} \ mathbf {x} _ {\ parallel}) \ left \ | \ mathbf {x} _ {\ parallel} \ right \ | \ right) + \ mathbf {u} \ cdot \ mathbf {0} = \ mathbf {x} _ {\ parallel}}$

по свойствам скалярного произведения параллельных и перпендикулярных векторов.

Эта формула может быть обобщена на ортогональные проекции на подпространство произвольной размерности. Пусть быть ортонормированный базис подпространства , и пусть обозначим матрицу, столбцы которой являются , например . Тогда прогноз определяется по формуле: ${\ displaystyle \ mathbf {u} _ {1}, \ ldots, \ mathbf {u} _ {k}}$${\ displaystyle U}$${\ displaystyle A}$${\ Displaystyle п \ раз к}$${\ displaystyle \ mathbf {u} _ {1}, \ ldots, \ mathbf {u} _ {k}}$${\ displaystyle A = {\ begin {bmatrix} \ mathbf {u} _ {1} & \ cdots & \ mathbf {u} _ {k} \ end {bmatrix}}}$

${\ Displaystyle P_ {A} = AA ^ {\ mathrm {T}}}$

который можно переписать как

${\ displaystyle P_ {A} = \ sum _ {i} \ langle \ mathbf {u} _ {i}, \ cdot \ rangle \ mathbf {u} _ {i}.}$

Матрица - это частичная изометрия, которая исчезает на ортогональном дополнении, и изометрия, которая вкладывается в основное векторное пространство. Диапазон , следовательно , является окончательным пространством из . Также ясно, что это тождественный оператор на . ${\ Displaystyle А ^ {\ mathrm {T}}}$${\ displaystyle U}$${\ displaystyle A}$${\ displaystyle U}$${\ displaystyle P_ {A}}$${\ displaystyle A}$${\ Displaystyle AA ^ {\ mathrm {T}}}$${\ displaystyle U}$

Условие ортонормированности также можно отбросить. Если это базис (не обязательно ортонормированный) и матрица с этими векторами в качестве столбцов, тогда проекция будет следующей: ${\ displaystyle \ mathbf {u} _ {1}, \ ldots, \ mathbf {u} _ {k}}$${\ displaystyle A}$

${\ displaystyle P_ {A} = A \ left (A ^ {\ mathrm {T}} A \ right) ^ {- 1} A ^ {\ mathrm {T}}.}$

Матрица по- прежнему встраивается в базовое векторное пространство, но в целом больше не является изометрией. Матрица - это «нормализующий коэффициент», восстанавливающий норму. Например, оператор ранга 1 не является проекцией, если после деления на мы получаем проекцию на подпространство, натянутое на . ${\ displaystyle A}$${\ displaystyle U}$${\ displaystyle \ left (A ^ {\ mathrm {T}} A \ right) ^ {- 1}}$${\ displaystyle \ mathbf {u} \ mathbf {u} ^ {\ mathrm {T}}}$${\ Displaystyle \ влево \ | \ mathbf {и} \ вправо \ | \ neq 1.}$${\ Displaystyle \ mathbf {u} ^ {\ mathrm {T}} \ mathbf {u} = \ left \ | \ mathbf {u} \ right \ | ^ {2},}$${\ displaystyle \ mathbf {u} \ left (\ mathbf {u} ^ {\ mathsf {T}} \ mathbf {u} \ right) ^ {- 1} \ mathbf {u} ^ {\ mathsf {T}} }$${\ displaystyle u}$

В общем случае у нас может быть произвольная положительно определенная матрица, определяющая скалярное произведение , а проекция задается выражением . потом ${\ displaystyle D}$${\ displaystyle \ langle x, y \ rangle _ {D} = y ^ {\ dagger} Dx}$${\ displaystyle P_ {A}}$${\ textstyle P_ {A} x = \ operatorname {argmin} _ {y \ in \ mathrm {range} (A)} \ left \ | xy \ right \ | _ {D} ^ {2}}$

${\ displaystyle P_ {A} = A (A ^ {\ mathrm {T}} DA) ^ {- 1} A ^ {\ mathrm {T}} D.}$

Когда диапазон пространство проекции порождаются кадром (то есть число образующих больше , чем его размерность), формула для проекции имеет вид: . Здесь обозначает псевдообратную матрицу Мура – ​​Пенроуза . Это лишь один из многих способов создания оператора проекции. ${\ displaystyle P_ {A} = AA ^ {+}}$${\ displaystyle A ^ {+}}$

Если является невырожденной матрицей и (т.е. является матрицей нулевого пространства ), выполняется следующее: ${\ displaystyle {\ begin {bmatrix} A&B \ end {bmatrix}}}$${\ Displaystyle А ^ {\ mathrm {T}} В = 0}$${\ displaystyle B}$${\ displaystyle A}$

${\ displaystyle {\ begin {align} I & = {\ begin {bmatrix} A&B \ end {bmatrix}} {\ begin {bmatrix} A&B \ end {bmatrix}} ^ {- 1} {\ begin {bmatrix} A ^ {\ mathrm {T}} \\ B ^ {\ mathrm {T}} \ end {bmatrix}} ^ {- 1} {\ begin {bmatrix} A ^ {\ mathrm {T}} \\ B ^ {\ mathrm {T}} \ end {bmatrix}} \\ & = {\ begin {bmatrix} A&B \ end {bmatrix}} \ left ({\ begin {bmatrix} A ^ {\ mathrm {T}} \\ B ^ {\ mathrm {T}} \ end {bmatrix}} {\ begin {bmatrix} A&B \ end {bmatrix}} \ right) ^ {- 1} {\ begin {bmatrix} A ^ {\ mathrm {T}} \ \ B ^ {\ mathrm {T}} \ end {bmatrix}} \\ & = {\ begin {bmatrix} A&B \ end {bmatrix}} {\ begin {bmatrix} A ^ {\ mathrm {T}} A&O \ \ O&B ^ {\ mathrm {T}} B \ end {bmatrix}} ^ {- 1} {\ begin {bmatrix} A ^ {\ mathrm {T}} \\ B ^ {\ mathrm {T}} \ end {bmatrix}} \\ [4pt] & = A (A ^ {\ mathrm {T}} A) ^ {- 1} A ^ {\ mathrm {T}} + B (B ^ {\ mathrm {T}} Б) ^ {- 1} B ^ {\ mathrm {T}} \ end {align}}}$

Если ортогональная условие усиливается к с неособо, имеет место следующее: ${\ Displaystyle A ^ {\ mathrm {T}} WB = A ^ {\ mathrm {T}} W ^ {\ mathrm {T}} B = 0}$${\ displaystyle W}$

${\ displaystyle I = {\ begin {bmatrix} A&B \ end {bmatrix}} {\ begin {bmatrix} \ left (A ^ {\ mathsf {T}} WA \ right) ^ {- 1} A ^ {\ mathrm {T}} \\\ left (B ^ {\ mathsf {T}} WB \ right) ^ {- 1} B ^ {\ mathrm {T}} \ end {bmatrix}} W.}$

Все эти формулы также верны для сложных внутренних пространств продукта при условии, что вместо транспонирования используется сопряженное транспонирование. Более подробную информацию о суммах проекторов можно найти в Banerjee and Roy (2014). Также см. Banerjee (2004) о применении сумм проекторов в базовой сферической тригонометрии.

Косые проекции

Термин " наклонные проекции" иногда используется для обозначения неортогональных проекций. Эти проекции также используются для представления пространственных фигур на двухмерных чертежах (см. Наклонную проекцию ), хотя и не так часто, как ортогональные проекции. В то время как для вычисления подобранного значения обычной регрессии методом наименьших квадратов требуется ортогональная проекция, для вычисления подобранного значения регрессии инструментальных переменных требуется наклонная проекция.

Проекции определяются своим нулевым пространством и базисными векторами, используемыми для характеристики их диапазона (который является дополнением к нулевому пространству). Когда эти базисные векторы ортогональны нулевому пространству, тогда проекция является ортогональной проекцией. Когда эти базисные векторы не ортогональны нулевому пространству, проекция является наклонной проекцией. Пусть векторы образуют основу для диапазона проекции, и соберите эти векторы в матрицу . Диапазон и пустое пространство являются дополнительными пространствами, поэтому нулевое пространство имеет размерность . Отсюда следует, что ортогональное дополнение к нулевому пространству имеет размерность . Сформируем основу для ортогонального дополнения нулевого пространства проекции и соберем эти векторы в матрицу . Тогда проекция определяется как ${\ displaystyle \ mathbf {u} _ {1}, \ ldots, \ mathbf {u} _ {k}}$${\ Displaystyle п \ раз к}$${\ displaystyle A}$${\ displaystyle nk}$${\ displaystyle k}$${\ Displaystyle \ mathbf {v} _ {1}, \ ldots, \ mathbf {v} _ {k}}$${\ displaystyle B}$

${\ displaystyle P = A \ left (B ^ {\ mathsf {T}} A \ right) ^ {- 1} B ^ {\ mathsf {T}}.}$

Это выражение обобщает формулу для ортогональных проекций, приведенную выше.

Поиск проекции с помощью внутреннего продукта

Позвольте быть векторным пространством (в данном случае плоскостью), натянутым на ортогональные векторы . Позвольте быть вектор. Можно определить проекцию на как ${\ displaystyle V}$${\ displaystyle \ mathbf {u} _ {1}, \ mathbf {u} _ {2}, \ dots, \ mathbf {u} _ {p}}$${\ displaystyle y}$${\ displaystyle \ mathbf {y}}$${\ displaystyle V}$

${\ displaystyle \ operatorname {proj} _ {V} \ mathbf {y} = {\ frac {\ mathbf {y} \ cdot \ mathbf {u} ^ {i}} {\ mathbf {u} ^ {i} \ cdot \ mathbf {u} ^ {i}}} \ mathbf {u} ^ {i}}$

где повторяющиеся индексы суммируются ( обозначение суммы Эйнштейна ). Вектор можно записать в виде ортогональной суммы, такой что . иногда обозначается как . В линейной алгебре есть теорема, которая гласит, что это кратчайшее расстояние от до и обычно используется в таких областях, как машинное обучение. ${\ displaystyle \ mathbf {y}}$${\ displaystyle \ mathbf {y} = \ operatorname {proj} _ {V} \ mathbf {y} + \ mathbf {z}}$${\ displaystyle \ operatorname {proj} _ {V} \ mathbf {y}}$${\ displaystyle {\ hat {\ mathbf {y}}}}$${\ displaystyle \ mathbf {z}}$${\ displaystyle \ mathbf {y}}$${\ displaystyle V}$

y проецируется на векторное пространство V.

Канонические формы

Любая проекция на векторное пространство размерности над полем является диагонализуемой матрицей , поскольку ее минимальный многочлен делит , который разбивается на различные линейные множители. Таким образом, существует базис, имеющий вид ${\ Displaystyle P = P ^ {2}}$${\ displaystyle d}$${\ displaystyle x ^ {2} -x}$${\ displaystyle P}$

${\ displaystyle P = I_ {r} \ oplus 0_ {dr}}$

где ранг . Вот единичная матрица размера , а - нулевая матрица размера . Если векторное пространство сложное и снабжено внутренним произведением , то существует ортонормированный базис, в котором матрица P равна ${\ displaystyle r}$${\ displaystyle P}$${\ displaystyle I_ {r}}$${\ displaystyle r}$${\ displaystyle 0_ {dr}}$${\ displaystyle dr}$

${\ displaystyle P = {\ begin {bmatrix} 1 & \ sigma _ {1} \\ 0 & 0 \ end {bmatrix}} \ oplus \ cdots \ oplus {\ begin {bmatrix} 1 & \ sigma _ {k} \\ 0 & 0 \ end {bmatrix}} \ oplus I_ {m} \ oplus 0_ {s}.}$

где . Целые и действительные числа определяются однозначно. Обратите внимание на это . Фактор соответствует максимальному инвариантному подпространству, на котором действует как ортогональная проекция (так что сама точка P ортогональна тогда и только тогда, когда ), а -блоки соответствуют наклонным компонентам. ${\ displaystyle \ sigma _ {1} \ geq \ sigma _ {2} \ geq \ dots \ geq \ sigma _ {k}> 0}$${\ displaystyle k, s, m}$${\ displaystyle \ sigma _ {я}}$${\ displaystyle 2k + s + m = d}$${\ displaystyle I_ {m} \ oplus 0_ {s}}$${\ displaystyle P}$${\ displaystyle k = 0}$${\ displaystyle \ sigma _ {я}}$

Проекции на нормированные векторные пространства

Когда лежащее в основе векторное пространство является (не обязательно конечномерным) нормированным векторным пространством , необходимо рассмотреть аналитические вопросы, не относящиеся к конечномерному случаю. Предположим, теперь это банахово пространство . ${\ displaystyle X}$${\ displaystyle X}$

Многие из рассмотренных выше алгебраических результатов переживают переход к этому контексту. Данное разложение прямой суммы на дополнительные подпространства по-прежнему определяет проекцию, и наоборот. Если - прямая сумма , то оператор, определенный в, по- прежнему является проекцией с диапазоном и ядром . Также ясно, что . Наоборот, если есть проекция на , т. Е. Легко проверить, что . Другими словами, это тоже проекция. Соотношение подразумевает и является прямой суммой . ${\ displaystyle X}$${\ displaystyle X}$${\ Displaystyle X = U \ oplus V}$${\ Displaystyle P (u + v) = u}$${\ displaystyle U}$${\ displaystyle V}$${\ Displaystyle P ^ {2} = P}$${\ displaystyle P}$${\ displaystyle X}$${\ Displaystyle P ^ {2} = P}$${\ Displaystyle (1-P) ^ {2} = (1-P)}$${\ displaystyle 1-P}$${\ Displaystyle P ^ {2} = P}$${\ Displaystyle 1 = P + (1-P)}$${\ displaystyle X}$${\ displaystyle \ operatorname {rg} (P) \ oplus \ operatorname {rg} (1-P)}$

Однако, в отличие от конечномерного случая, проекции, вообще говоря, не обязательно должны быть непрерывными . Если подпространство из не замкнуто в топологии нормы, то проекция на не является непрерывным. Другими словами, диапазон непрерывной проекции должен быть замкнутым подпространством. Кроме того, ядро ​​непрерывной проекции (в общем, непрерывного линейного оператора) замкнуто. Таким образом, непрерывная проекция дает разложение на два дополнительных замкнутых подпространств: . ${\ displaystyle U}$${\ displaystyle X}$${\ displaystyle U}$${\ displaystyle P}$${\ displaystyle P}$${\ displaystyle X}$${\ Displaystyle X = \ OperatorName {rg} (P) \ oplus \ ker (P) = \ ker (1-P) \ oplus \ ker (P)}$

Обратное также верно с дополнительным предположением. Предположим , это замкнутое подпространство в . Если существует замкнутое подпространство такое, что X = U ⊕ V , то проекция с диапазоном и ядром непрерывна. Это следует из теоремы о замкнутом графике . Предположим, что x _n → x и Px _n → y . Это нужно показать . Поскольку замкнуто и { Px _n } ⊂ U , y лежит в , т. Е. Py = y . Кроме того, x _n - Px _n = ( I - P ) x _n → x - y . Поскольку замкнуто и {( I - P ) x _n } ⊂ V , имеем , т.е. что доказывает утверждение. ${\ displaystyle U}$${\ displaystyle X}$${\ displaystyle V}$${\ displaystyle P}$${\ displaystyle U}$${\ displaystyle V}$${\ displaystyle Px = y}$${\ displaystyle U}$${\ displaystyle U}$${\ displaystyle V}$${\ displaystyle xy \ in V}$${\ Displaystyle P (ху) = Px-Py = Px-y = 0}$

В приведенном выше аргументе используется предположение, что оба и закрыты. В общем, для данного замкнутого подпространства не обязательно существует дополнительное замкнутое подпространство , хотя для гильбертовых пространств это всегда можно сделать, взяв ортогональное дополнение . Для банаховых пространств одномерное подпространство всегда имеет замкнутое дополнительное подпространство. Это непосредственное следствие теоремы Хана – Банаха . Позвольте быть линейной оболочкой . По Хану – Банаху существует ограниченный линейный функционал такой, что φ ( u ) = 1 . Оператор удовлетворяет , т.е. это проекция. Ограниченность влечет непрерывность и, следовательно, является замкнутым дополнительным подпространством . ${\ displaystyle U}$${\ displaystyle V}$${\ displaystyle U}$${\ displaystyle V}$${\ displaystyle U}$${\ displaystyle u}$${\ displaystyle \ varphi}$${\ Displaystyle P (x) = \ varphi (x) u}$${\ Displaystyle P ^ {2} = P}$${\ displaystyle \ varphi}$${\ displaystyle P}$${\ Displaystyle \ ker (P) = \ OperatorName {rg} (IP)}$${\ displaystyle U}$

Приложения и дополнительные соображения

Проекции (ортогональные и другие) играют важную роль в алгоритмах некоторых задач линейной алгебры:

• QR-разложение (см. Преобразование Хаусхолдера и разложение Грама – Шмидта );
• Разложение по сингулярным числам
• Приведение к форме Хессенберга (первый шаг во многих алгоритмах собственных значений )
• Линейная регрессия
• Проективные элементы матричных алгебр используются при построении некоторых K-групп в операторной K-теории.

Как было сказано выше, проекции - это частный случай идемпотентов. С аналитической точки зрения ортогональные проекции являются некоммутативными обобщениями характеристических функций . Идемпотенты используются при классификации, например, полупростых алгебр , тогда как теория меры начинается с рассмотрения характеристических функций измеримых множеств. Поэтому, как можно догадаться, проекции очень часто встречаются в контексте операторных алгебр . В частности, алгебра фон Неймана порождается своей полной решеткой проекций.

Обобщения

В более общем смысле, если дано отображение между нормированными векторными пространствами, можно аналогичным образом попросить, чтобы это отображение было изометрией на ортогональном дополнении ядра: это была изометрия (сравните Частичная изометрия ); в частности он должен быть включен. Случай ортогональной проекции - это когда W является подпространством в V. В римановой геометрии это используется в определении римановой субмерсии . ${\ Displaystyle T \ двоеточие V \ to W,}$${\ Displaystyle (\ ker T) ^ {\ perp} \ к W}$

Смотрите также

• Центрирующая матрица , являющаяся примером матрицы проекции.
• Ортогонализация
• Инвариантное подпространство
• Свойства следа
• Алгоритм проекции Дикстры для вычисления проекции на пересечение множеств

Примечания

использованная литература

• Банерджи, Судипто; Рой, Аниндия (2014), Линейная алгебра и матричный анализ для статистики , Тексты в статистической науке (1-е изд.), Чепмен и Холл / CRC, ISBN 978-1420095388
• Dunford, N .; Шварц, JT (1958). Линейные операторы, часть I: Общая теория . Interscience.
• Мейер, Карл Д. (2000). Матричный анализ и прикладная линейная алгебра . Общество промышленной и прикладной математики. ISBN 978-0-89871-454-8.

внешние ссылки

• Лекция MIT по линейной алгебре по проекционным матрицам на YouTube , от MIT OpenCourseWare
• Линейная алгебра 15d: Преобразование проекции на YouTube , Павел Гринфельд .
• Учебное пособие по плоским геометрическим проекциям - простое в использовании учебное пособие, объясняющее различные типы плоских геометрических проекций.