성장通

고윳값, 고유벡터, 고유공간 본문

ML&DL/머신러닝을 위한 수학

고윳값, 고유벡터, 고유공간

백악기작은펭귄 2024. 3. 20. 20:50

고윳값, 고유벡터, 고유공간

고윳값, 고유벡터, 고유공간은 선형대수학의 핵심 개념 중 하나이며 이는 특정 벡터 공간에 대한 핵심적인 정보를 주므로 명확히 알아둘 필요가 있다. 간단히 개념을 정리해 보자.


고윳값, 고유벡터

$n \times n$ 정방 행렬 $A$와 상수 $\Lambda$에 대하여 $Ax = \Lambda x$가 성립하는 0이 아닌 벡터 $x$가 존재할 때, 상수 $\Lambda$를 행렬 $A$의 고윳값(eigenvalue)라고 하며, $x$를 이에 대응하는 고유벡터(eigenvector)라고 한다. 고윳값은 최소 1개에서 최대 서로 다른 n개(행렬 $A$의 랭크의 수)까지 존재할 수 있으며, 행렬 $A$의 모든 고윳값 집합을 행렬 $A$의 스펙트럼(spectrum)이라고 한다. 또, 이 스펙트럼 내 고윳값의 절댓값 중 최댓값을 행렬 $A$의 Spectrum radius라고 한다.

 

위 식을 잘 살펴보면, '벡터 $x$에 정방행렬을 곱한 값과 상수를 곱한 값이 같다'라는 뜻임을 알 수 있는데, 이 말은 곧 '행렬 곱의 결과(=선형 변환의 결과)가 원래 벡터와 방향은 같고 크기만 상수 배 되었다'라고 해석할 수 있다. 즉, 고윳값은 고유벡터 방향으로 얼마나 scaling 되는지를 의미함을 알 수 있다.

 

고윳값과 고유벡터는 위 식 $Ax = \Lambda x$의 우변을 좌변으로 넘겨 만든 $(A-\Lambda I) x=0$이라는 등식을 풀어냄으로써 구할 수 있다. 이 식에서 $x$가 영벡터가 아닌 해를 가지기 위한 필요조건은 이 식의 계수행렬(coefficient matrix) $A-\Lambda I$의 행렬식(determinant)이 0인 경우이다. 행렬식이 0인 경우 해당 행렬은 역행렬이 존재하지 않는 특이 행렬(singular matrix)이며, 이는 해당 시스템이 해를 가지지 않거나, 혹은 무수히 많은 해를 가질 수 있음을 의미한다.

 

* 행렬식이란?

 

역행렬과 행렬식

역행렬과 행렬식 역행렬과 이의 존재 여부를 알 수 있는 행렬식은 선형 연립 방정식을 풀기 위해 매우 중요한 개념이다. 각각의 개념을 가볍게 알아보도록 하자. 역행렬 어떤 행렬과 곱했을 때

kevin-rain.tistory.com

 

고윳값 문제에서는 고윳값과 고유벡터의 정의에 의해 $det(A-\Lambda I)=0$에서 영벡터가 아닌 해가 반드시 존재해야 한다. 즉, $A$의 고윳값 $\Lambda$에 대해 고유벡터 $x$가 반드시 존재해야 한다. $det(A-\Lambda I)=0$를 특성방정식(characteristic equation or eigenvalue equation)이라고 하며 이는 고윳값을 찾는 중요한 조건이다.

특성방정식

 

고유벡터를 찾을 때는 고윳값을 먼저 구하고 가우스 소거법을 이용해 고윳값에 대응하는 고유벡터를 구한다.

 

* 가우스 소거법이란?

 

[행렬대수학] 가우스 소거법(Gaussian Elimination)

 

datalabbit.tistory.com

 

고유공간

고유공간(eigenspace)은 고윳값과 고유벡터, 그리고 Span을 이해했다면 쉽게 유추할 수 있을 것이다. 고유공간은 고유벡터가 생성하는 Span이다. Span은 벡터 덧셈과 스칼라 곱셈에 대해 닫혀 있으므로 고유 벡터들은 영벡터와 함께 하나의 벡터 공간을 이루며 이것이 바로 고유공간인 것이다. 즉, 고유벡터를 기저로 하는 Span을 고유공간이라고 한다.

 

* Span, 기저?

 

Rank, Basis, Span

Rank, Basis, Span Rank, Basis 그리고 Span은 선형 대수학에서의 핵심 개념 중 하나이다. 이는 행렬 기반으로 연산이 수행되는 대부분의 머신러닝 개념의 근간이 되므로 잘 알아두는 것이 좋다. Rank Rank(

kevin-rain.tistory.com