ML&DL/Math for ML10

• 

  고윳값 분해, 특이값 분해(SVD) 고윳값 분해, 특이값 분해 고윳값 분해와 특이값 분해는 두 가지 강력한 행렬 분해 방법으로, 행렬의 분해 및 재구성을 통해 데이터를 더 잘 이해하고 머신러닝 및 딥러닝 모델의 성능을 향상시킬 수 있는 도구 중 하나이다. 특히 특이값 분해는 데이터 차원의 축소 및 압축, 잠재 요인 모델링, 노이즈 제거, 특징 추출 등에 사용할 수 있는 방법이므로 잘 알아두는 것이 좋다. 고윳값 분해 정방 행렬 $A$의 고유벡터로 이루어진 행렬 $V$와 각 고윳값을 대각성분으로 갖는 행렬 $\Lambda$에 대해 다음과 같은 식이 성립한다. $$ AV = V\Lambda $$ 이때 만약 모든 고유벡터들이 선형 독립이라면 그 행렬의 고유벡터들이 벡터 공간의 기저를 형성한다는 것을 의미하며, 이러한 행렬의 고유벡터들을 열벡터로.. ML&DL/Math for ML 2024. 3. 21.

• 

  고윳값, 고유벡터, 고유공간 고윳값, 고유벡터, 고유공간 고윳값, 고유벡터, 고유공간은 선형대수학의 핵심 개념 중 하나이며 이는 특정 벡터 공간에 대한 핵심적인 정보를 주므로 명확히 알아둘 필요가 있다. 간단히 개념을 정리해 보자. 고윳값, 고유벡터 $n \times n$ 정방 행렬 $A$와 상수 $\Lambda$에 대하여 $Ax = \Lambda x$가 성립하는 0이 아닌 벡터 $x$가 존재할 때, 상수 $\Lambda$를 행렬 $A$의 고윳값(eigenvalue)라고 하며, $x$를 이에 대응하는 고유벡터(eigenvector)라고 한다. 고윳값은 최소 1개에서 최대 서로 다른 n개(행렬 $A$의 랭크의 수)까지 존재할 수 있으며, 행렬 $A$의 모든 고윳값 집합을 행렬 $A$의 스펙트럼(spectrum)이라고 한다. 또, 이 .. ML&DL/Math for ML 2024. 3. 20.

• 

  역행렬과 행렬식 역행렬과 행렬식 역행렬과 이의 존재 여부를 알 수 있는 행렬식은 선형 연립 방정식을 풀기 위해 매우 중요한 개념이다. 각각의 개념을 가볍게 알아보도록 하자. 역행렬 어떤 행렬과 곱했을 때 항등 행렬이 나오는 행렬을 그 행렬의 역행렬(Inverse Matrix)이라고 한다. 행렬 $A$의 역행렬은 $A^{-1}$과 같이 표현하며, 행렬 $A$가 orthogonal matrix라면 $A^T=A^{-1}$이 성립한다. 행렬 곱의 역행렬은 다음과 같이 정의된다. $$ (AB)^{-1}=B^{-1}A^{-1} $$ 어떤 행렬의 역행렬은 존재할 수도 있고 하지 않을 수도 있으나 존재한다면 유일하게 존재한다. 이때 이 존재 여부는 행렬식을 계산함으로써 알 수 있다. 행렬식 행렬식(Determinant)은 정사각 행렬.. ML&DL/Math for ML 2024. 3. 18.

• Transposed / Symmetric / Diagonal Matrix Transposed / Symmetric / Diagonal Matrix 행렬의 연산에서 가장 많이 등장하는 개념인 Transposed / Symmetric / Diagonal Matrix에 대해 개념과 성질을 가볍게 알아보자. Transposed Matrix Transposed Matrix(전치 행렬)는 이름에서도 알 수 있듯이, 어떤 행렬에 Transpose(전치) 연산을 수행한 행렬이다. 여기서 전치 연산이란 행렬의 행과 열을 바꾸는 연산으로, $m\times n$ 행렬을 $n\times m$ 행렬로 바꾸게 된다. 곱 연산이 가능한 두 행렬 $A$, $B$에 대해 다음과 같은 성질이 성립한다. $(AB)^T = B^TA^T$ (A^{-1})^T = (A^T)^{-1} (이는 양변에 $A^T$를 곱함.. ML&DL/Math for ML 2024. 3. 17.

• Rank, Basis, Span (+ Gram-Schmidt Process) Rank, Basis, Span Rank, Basis 그리고 Span은 선형 대수학에서의 핵심 개념 중 하나이다. 이는 행렬 기반으로 연산이 수행되는 대부분의 머신러닝 개념의 근간이 되므로 잘 알아두는 것이 좋다. Rank Rank(랭크)는 행렬에서 선형 독립(일차 독립)인 행 또는 열의 최대 개수를 의미한다. 이는 또한 행렬이나 벡터 공간의 벡터로 만들 수 있는 부분 벡터 공간의 차원이다. 행렬의 실제 행 또는 열의 개수가 랭크보다 크다면 일부 벡터가 서로 선형 종속(일차 종속) 관계임을 알 수 있다. *일차 독립, 일차 종속이란? 일차결합, 일차종속, 일차독립 일차결합, 일차종속, 일차독립 일차결합 일차결합(Linear Combination)의 정의는 다음과 같다. 벡터공간 $V$의 공집합이 아닌 부.. ML&DL/Math for ML 2024. 3. 16.

• 빈도주의 V.S. 베이즈주의 (feat. 조건부독립) 빈도주의 V.S. 베이즈주의 빈도주의(Freqatist) 빈도주의(Freqatist)는 철저히 데이터에 기반을 둔 개념으로, 확률을 사건의 빈도로 보는 주의를 의미한다. 빈도론자들은 특정한 사건이 얼만큼 빈번하게 반복되어 발생하는가를 관찰하고 가설을 세워 모델을 만들고 검증한다. 예를 들어, '주사위를 던질 때 6이 나올 확률'을 계산하기 위해 무수히 많이 주사위를 굴려보고 그 통계를 확인할 수 있다. 빈도주의에서는 이와 같이, 특정 사건의 확률을 계산하기 위해 가장 이상적인 방법은 무수한 시행이라고 주장한다. 다만, 이와 같은 방법은 물리적 한계가 존재할 뿐만 아니라 실제 실험에 적용되는 외부 요인이 너무나 많기 때문에 실제로 사용하기에는 무리가 있는 방법이다. 여러 번의 실험 및 관찰을 통해 알게된 .. ML&DL/Math for ML 2024. 1. 3.

• 일차결합, 일차종속, 일차독립 일차결합, 일차종속, 일차독립 일차결합 일차결합(Linear Combination)의 정의는 다음과 같다. 벡터공간 $V$의 공집합이 아닌 부분공간 $S$에 속하는 유한 개의 벡터 $u_1, ... , u_k$와 유한 개의 스칼라 $a_1, ... , a_k$에 대하여 다음과 같은 벡터 $v$를 $S$의 일차결합(Linear combination)이라 한다. $$ v = a_1u_1 + ... + a_ku_k $$ 이때, $v$는 벡터 $u_1,...,u_k$의 일차결합이며 $a_1,...,a_k$를 계수(Coefficient)라고 한다. * 여기서, 정의에 따라 벡터 한 개와 스칼라의 곱 또한 일차결합에 해당함에 유의하자. 부분 공간의 정의에 따라, $S$의 모든 일차결합은 $V$에 속한다. 증명) $.. ML&DL/Math for ML 2024. 1. 1.

• Identities and Inverses Identities and Inverses 대수학의 또 다른 특징으로는 Identities(항등원)와 Inverses(역원)가 있다. Identities 어떤 값 a와 연산 *이 있을 때, a에 * 연산을 한 결과가 그대로 a인 경우를 말한다. $a * e = a\qquad$ e는 *에 대한 identities ex) Additive Identities $a+e = a$ $\rightarrow (a+e)-a = a - a$ $\rightarrow (e+a)-a=0\qquad \qquad$by commutativity $\rightarrow e+(a-a)=0\qquad \qquad$by associativity $\therefore e=0\qquad$임의 a의 덧셈에 대한 항등원은 0 ex) Multipl.. ML&DL/Math for ML 2022. 5. 6.

• Algebraic Property Algebraic Property 대수학(Algebra)에는 크게 세 가지 특징이 있다. Commutative Property (=Law) Associative Property Distributive Property 각각에 대해서 살펴보자. Commutative Property 교환 법칙이라고도 한다. 이름에서 알 수 있듯이, 연산자에 의해 피연산되는 객체의 위치가 서로 교환되어도 식이 성립하는지 여부에 관한 법칙으로, Commutative Property가 성립되는 연산자에 대해서는 피연산자의 위치가 서로 바뀌어도 같은 결과를 도출한다. 대표적으로 $+$, $\times$ 등이 있다. 교환 법칙을 만족하는 연산을 가환(commutative), 만족하지 않는 연산을 비가환(noncommutative, a.. ML&DL/Math for ML 2022. 5. 6.

• 

  회귀분석을 위한 확률 기초 회귀분석을 위한 확률 기초 1. 확률 기초 확률 실험( Random experiment) 실험의 결과는 미리 알 수 없다. ex - 주사위를 던졌을 때 어떤 눈이 나올지는 미리 알 수 없다. 실험에서 일어날 수 있는 모든 결과는 사전에 알려져 있다. ex - 주사위를 던졌을 때 1~6 중 하나의 눈이 나올 것이다. 이론적으로는 실험을 반복할 수 있다. 표본 공간 (Sample Space) 모든 결과들의 모임ex - 주사위를 던졌을 때 나올 수 있는 결과들의 집합 근원 사건 (Sample outcome) 표본 공간의 원소 ex - 1, 2, 3, 4, 5, 6 사건 (Event) 표본 공간의 부분집합 (근원 사건의 집합) ML&DL/Math for ML 2021. 12. 9.