직교성 Orthogonality

Keon M. Lee

벡터의 내적 (inner product)

벡터의 크기 (norm)

벡터 간의 거리

직교 벡터

피타고라스 정리와 직교

직교 여공간

직교 기저 (orthogonal basis)

직교 정사영

직교 행렬

직교 변환

벡터의 내적(inner/dot product)

내적(inner product)

벡터 내적의 성질

벡터의 크기(norm)

벡터 u의 크기(norm)

u의 크기 = 원점에서 u까지의 거리

벡터 크기(norm)의 정의 만족해야 할 성질

L1 norm

L2 norm (Euclid norm)

p-norm

infinity norm

행렬의 크기 (norm)

행렬의 크기 (norm)

벡터 norm 정의 확장

Induced norm

Frobenius norm

벡터의 크기(norm)

단위 벡터

크기가 1인 벡터

벡터 v의 정규화(normalization)

v로 부터 단위벡터 u를 구하는 것

벡터간 거리(distance)

벡터 u와 v간의 거리

직교 벡터 (orthogonal vectors)

원점과 다른 두 점을 지나는 두 직선이 수직일 조건

직교 벡터

만약 이면, Rn 공간에서 벡터 u와 v는 서로 직교(orthogonal)한다고 한다.

이기 때문에, Rn 공간에서 영벡터는 모든 벡터와 직교한다.

피타고라스 정리(Theorem of Pythagoras)

두 벡터 u와 v가 직교하는 필요충분조건은 이다.

직교 여공간(Orthogonal Complement)

W의 직교 여공간 ( : W perpendicular, W perp)

부분공간 W에 직교하는 모든 벡터의 집합

부분공간 W에 직교하는 벡터

• W에 있는 모든 벡터들과 직교하는 벡터

직교하는 부공간(Orthogonal Subspaces)

mxn 행렬 A의 부공간(subspace)

x가 Nul A의 원소이면, x는 A의 각 행벡터와 직교

Ax = 0

A의 행벡터는 행공간을 생성하므로, x는 A의 각 행(row)과 직교

A를 AT로 변환하고, Col A = Row AT 성질 이용

벡터 내적과 각도

벡터간의 각도

직교 집합

직교집합(orthogonal set)

직교 기저(orthogonal basis)

직교집합이면서 기저(basis)인 벡터의 집합

직교 기저를 사용한 벡터 y의 선형결합 표현은 유일

직교기저를 이용한 좌표 변환

직교정사영 (orthogonal projection)

직교 정사영

L 위로 x의 직교 정사영(Orthogonal projection of x onto L)

직교정사영 (orthogonal projection)

u위로의 y의 직교 정사영

y에서 L까지의 거리 :

정규 직교 기저(orthonormal basis)

정규 직교 기저

단위 벡터인 직교집합(orthonormal set)으로 구성된 기저(basis)

정규직교 열벡터(orthonormal column vectors)

정규직교 열(column) 벡터로 구성된 행렬

U UTU = I

그러므로, UTU= I이면 열벡터 는 정규직교이다.

정규직교 변환

정규직교(orthonormal) 열벡터로 구성된 행렬 U Rmxn 에 의한 벡터 x, y Rn 의 변환

Norm preserving property (크기 유지 성질)

직교변환과 직교행렬

직교변환(orthogonal transformation)

선형변환(linear transformation} T: Rn Rn으로 ||T(x)|| = ||x|| (norm preserving)인 성질을 만족하는 것

직교행렬(orthogonal matrix) A Rnxn

모든 x Rn에 대해서, ||Ax|| = ||x||을 만족하는 정방(square) 행렬 (n개의 정규직교 열벡터로 구성된 행렬)

정규 직교행렬 (orthonormal matrix)라고 하지 않음

회전변환

부분공간 위의 직교정사영

Rn 공간에 있는 벡터 y의 부분공간 W로의 직교 정사영 𝒚 =

(orthogonal projection y onto W)

𝒚 는 𝒚 − 𝒚 가 W에 직교하는 유일한 벡터

𝒚 는 W에 속하는 벡터들 중에서 𝒚 에 가장 가까운 유일한 벡터

직교분해(orthogonal decomposition)

직교분해 정리 (Orthogonal decomposition theorem)

W가 Rn의 부분공간일 때, Rn의 벡터 y의 표현

• 𝒚 는 W에 속하고, z는 W에 직교

{u1, u2, …, up}가 W의 직교기저(orthogonal basis)인 경우

직교분해(orthogonal decomposition)

직교분해 정리 (증명)

{u1, u2, …, up}가 W의 직교기저(orthogonal basis)라고 가정

z의 직교 증명

u1는 u2, …, up에 직교하므로

• 따라서 z는 u1과 직교

• 마찬가지로 u2, …, up와도 직교

• z는 W에 속하는 모든 벡터들에 직교

직교분해(orthogonal decomposition)

직교분해 정리 (증명)

{u1, u2, …, up}가 W의 직교기저(orthogonal basis)

직교분해의 유일성(uniqueness) 증명

인 또 다른 𝒚 1, z1의 존재 가정

직교분해(orthogonal decomposition)

y의 직교정사영

서로 직교하는 일차원 부분공간들 위로의 y의 정사영의 합으로 표현가능

직교분해

최적근사 정리

W의 원소들에 의한 y의 최적근사 𝒚 (the best approximation to y by the elements of W)

W : Rn의 부분공간

y : Rn에 속하는 임의의 벡터

𝒚 : W 위로의 y의 직교정사영

y에 가장 가까운 W의 점

최적근사 정리

W의 원소들에 의한 y의 최적근사

직교정사영이 최적근사에 해당

• W에서 과 다른 v를 선택

최적근사 정리

W의 가장 가까운 점과 y의 거리

거리:

Summary

벡터의 크기(norm)은 벡터의 내적으로 정의한다.

벡터의 거리는 벡터의 차의 norm으로 정의한다.

벡터의 내적이 0일 때, 두 벡터가 직교한다고 한다.

피타고라스 정리는 두 벡터가 직교할 때, 각 벡터의 norm의 제곱의 합과 두 벡터의 합에 대한 norm의 제곱과 같다고 한다.

부분공간 W의 직교 여공간은 W에 직교하는 모든 벡터의 집합이다.

직교 기저(orthogonal basis)는 직교이면서 기저인 벡터의 집합이다.

벡터는 직교기저의 벡터를 사용하여 유일하게 선형결합으로 표현될 수 있다.

직교정사영(orthogonal projection)은 기준이 되는 벡터 방향의 성분이다.

정규 직교기저는 단위벡터인 정규직교 집합으로 구성된 기저이다.

직교행렬은 정규직교 열벡터로 구성된 행렬이다.

벡터의 부분공간에 대한 직교정사영은 부분공간에 가장 가까운 위치에 해당한다.