Processing math: 100%

Inner Product Spaces, Orthogonality

2025. 1. 20. 19:47선형시스템이론

Inner product space 내적 공간 : inner product가 정의되는 vector space

V가 실수 vector space이고 u,vV일 때,  만약 다음의 조건을 만족하면

u,v는 inner product 라고 한다.

1. Linear property : au1+bu2,v=au1,v+bu2,v

2. Symmetric property : u,v=v,u

3. Positive definite property : u,u0 이며 만약 u=0인 경우에만 u,u=0이다.

 

Norm of a Vector

norm : vector의 크기

inner product로 정의된 norm : u=u,u

 

Examples of Inner product spaces

Euclidean n-space Rn : inner product를 dot product로 표현

inner product : uv=a1b1+a2b2++anbn

euclidean norm :  u=uu=a12+a22++an2

 

Function space C[a,b] and Polynomial space P(t)

cos(t),sin(t)C[0,2π] : 닫힌 구간에서 연속, t[0,2π] 일 때,

inner product : cos(t),sin(t)=2π0cos(t)sin(t)dt=0

 

Matrix space

A와 B 모두 m x n 행렬일때,

inner product : A,B=tr(BTA)

trace : 행렬의 주 대각선의 원소의 합이다.

A=[123456789] 일 때,

tr(A)=a11+a22+a33=1+5+9=15

 

Hilbert space

유한한 유클리디안 공간을 무한 차원으로 확장한 개념

푸리에 해석이 이루어지는 공간

 

Cauchy-Schwarz Inequality

u,v2u,uv,v or |u,v|uv

u와 v가 평행할 때 등호가 성립한다.

u=[1,2,3],v=[4,5,6] 에 대해:

uv=410+18=12,

u=12+22+32=14, v=42+52+62=77

121477=107832.8

 

triangular inequality 삼각 부등식

삼각형의 두 변의 합은 나머지 한 변의 합보다 크다.

u+vu+v

 

Orthogonality

두 벡터의 inner product가 0이면 orthogonal 직교 하다.

u,v=0

 

orthogonal complements

S가 inner product space V의 부분집합이라고 하자. S의 orthogonal complement S는 모든 vector uS와 수직한 vector의 구성이다.

S={vV:v,u=0foreveryuS}

SV,SV,V=SS

 

Gram-Schmidts Orthogonalization Process

주어진 벡터 집합을 선형 독립성을 유지하면서 서로 직교하는 벡터 집합으로 변환하는 과정

주어진 집합 : {v1,v2,,vn} : 선형 독립인 벡터 집합

출력 : {u1,u2,,un} : 직교 벡터 집합

알고리즘 : 

1. 첫 번째 벡터 u1

u1=v1

2. 두 번째 벡터 u2 : v2에서 u1의 성분을 제거하여 직교시킨다.

u2=v2proju1(v2)

여기서 proju1(v2)v2u1방향으로 투영된 성분이다. 즉, v2u1방향 성분이다.

proju1(v2)=v2,u1u1,u1u1

 

* u1=[12],v2=[34] 일 때,

v2,u1=3+8=11,u1,u1=12+22=5

proju1(v2)=115[12]

v2u1방향으로 115 배 만큼 겹쳐진다.  

 

 

예제

주어진 벡터 : v1=[110], v2=[101]

두 벡터는 선형 독립이다.

단계1 : u1=v1=[110]

단계2 : proju1(v2)=v2,u1u1,u1u1

v2,u1=1+0+0=1, u1,u1=1+1+0=2

proju1(v2)=12[110]=[0.50.50]

결국 u2=v2proju1(v2)=[101][0.50.50]=[0.50.51]

결과 : 새로운 직교 벡터 집합

u1=[110], u2=[0.50.51]

 

Orthogonal Matrix

만약 실수 matrix P가 nonsingular이고 P1=PT이면 P는 orthogonal이다.

SO(3) : special orthogonal 3, 회전행렬

 

Positive definite matrix

내적 u,AuAT=A인 real symmetrix matrix A에 대해 uTAu와 같다.

real symmetrix matrix A와, nonzero vector uRn 에 대해,

u,Au=uTAu>0 이면

A는 positive definite 이다.

특징 : 모든 고윳값이 양수이다.

'선형시스템이론' 카테고리의 다른 글

phase plane vs phase portrait  2 2025.02.06
Diagonalization : Eigenvalues and Eigenvectors  0 2025.01.31
Linear Mappings and Matrices  0 2025.01.07
Linear Mappings  0 2025.01.05
Vector Spaces  1 2025.01.02