성장通

일차결합, 일차종속, 일차독립 본문

ML&DL/머신러닝을 위한 수학

일차결합, 일차종속, 일차독립

백악기작은펭귄 2024. 1. 1. 23:26

일차결합, 일차종속, 일차독립

일차결합

일차결합(Linear Combination)의 정의는 다음과 같다.

벡터공간 $V$의 공집합이 아닌 부분공간 $S$에 속하는 유한 개의 벡터 $u_1, ... , u_k$와 유한 개의 스칼라 $a_1, ... , a_k$에 대하여 다음과 같은 벡터 $v$를 $S$의 일차결합(Linear combination)이라 한다.

$$
v = a_1u_1 + ... + a_ku_k
$$

 

이때, $v$는 벡터 $u_1,...,u_k$의 일차결합이며 $a_1,...,a_k$를 계수(Coefficient)라고 한다.

 

 

* 여기서, 정의에 따라 벡터 한 개와 스칼라의 곱 또한 일차결합에 해당함에 유의하자.

 

부분 공간의 정의에 따라, $S$의 모든 일차결합은 $V$에 속한다.

 

증명)

$u_1 \in S$와 $a_1 \in S$에 대해 $u_1 \in V$와 $a_1 \in V$이므로 벡터공간의 성질에 따라 $a_1u_1 \in V$가 성립한다. (1)

$S$의 일차결합 $a_1u_1 + ... + a_ku_k =: v_k \in V$라 가정하자. 임의의 벡터 $v_{k+1} \in S$와 임의 스칼라 $a_{k+1} \in S$에 대해 벡터 공간의 성질에 따라 $a_{k+1}v_{k+1} \in V$이며 $v_k + a_{k+1}v_{k+1} \in V$이다. 즉, $a_1u_1 + ... + a_ku_k + a_{k+1}u_{k+1} \in V$.

수학적 귀납법에 따라 임의 자연수 n에 대하여 임의 벡터 $u_1,...,u_n$과 임의 스칼라 $a_1,...,a_n$에 대하여 다음이 성립

$$
a_1u_1 + ... + a_nu_n = \in V
$$

일차독립

일차독립(Linearly Independent)의 정의는 다음과 같다.

 

벡터공간의 부분집합 $S$가 '일차종속'이 아니면 일차독립이다.

 

위 정의에서 알 수 있듯이, 일차독립의 정의는 일차종속의 여집합으로 정의된다. 그렇다면 일차종속(Linearly Dependent)의 정의를 알아보자.

 

벡터공간 $V$의 부분집한 $S$에서, 영벡터를 나타내는 $S$의 일차결합에 대하여 '자명하지 않은 표현'이 존재할 경우 $S$는 일차종속이다.

 

아니, 그렇다면 '자명하지 않은 표현'이 무엇을 뜻하는 걸까? 다음 정의를 살펴보자.

 

벡터공간 $V$의 부분집합 $S$의 일차결합에서 스칼라 계수를 모두 0으로 하여 영벡터를 표현할 수 있다. 이와 같이 계수에 0을 곱하여서 영벡터를 표현하는 것'자명한 표현(Trivial representation)'이라고 한다.

 

즉, 영벡터가 아닌 벡터 $a \in S$에 대하여 $0a=0$와 같이 영벡터를 표현하는 것을 '자명한 표현'이라고 정의하는 것이다. 이제 위에서 다루었던 정의들을 다시 살펴보자.

 

벡터공간 $V$의 부분집한 $S$에서, 영벡터를 나타내는 $S$의 일차결합에 대하여 '자명하지 않은 표현'이 존재할 경우 $S$는 일차종속이다.

 

이 말은 곧, $2a(1,0) - a(2,0) = 0$과 같이 영벡터를 표현하는 일차결합의 계수가 0이 아닌 표현이 존재한다면 해당 부분공간은 일차종속이라는 의미이다. 이 정의에 의해 우리는 점공간(영벡터만을 원소로 갖는 공간)은 일차종속임을 알 수 있다. 영벡터에는 어떤 스칼라 값을 곱해도 영벡터이므로 '자명하지 않은 표현'이 존재하기 때문이다.

 

여기서 우리는 다음 성질 또한 유추할 수 있다.

 

영벡터를 포함하는 모든 부분집합은 일차종속이다.

 

벡터공간 $V$와 영벡터 $0\in V$를 포함하는 부분집합 $S$가 존재할 때, $a0$은 $S$의 일차결합이며 $a$의 값과 관계없이 해당 일차결합은 영벡터를 나타내므로 부분집합 $S$는 일차종속이다.

 

이러한 일차독립인 집합에 대하여 다음 명제는 모든 벡터공간을 가리지 않고 성립한다.

 

i) 공집합(점공간과 다름 주의)은 일차독립이다.
ii) 영이 아닌 벡터 하나로만 이루어진 집합은 일차독립이다.
iii) 어떤 집합이 일차독립이기 위한 필요충분조건은 영벡터를 주어진 집합의 일차결합으로 표현하는 방법이 자명한 표현뿐인 것이다.

 

위에 대한 증명은 직접 수행해 보자.


Reference

https://aerospacekim.tistory.com/25