[선형대수학#1] 일차방정식

선형대수학은 머신러닝 공부에서 가장 기본이 되는 내용입니다. 이 글에서는 방정식과 선형 시스템을 주제로 살펴보도록 하겠습니다.

목차

1. 방정식
2. 일차 방정식
3. 연립 일차 방정식
4. Homogeneous System
5. Trivial Solution

---

1) 방정식 (Equation)

방정식은 두 수식이 서로 같음을 나타냅니다. 보통 미지수 \(x\)를 포함하며, 그 값을 찾아내는 것이 목표입니다.

예: \(\;2x + 3 = 7\;\) 에서 이를 만족하는 \(x\)는 \(x=2\)입니다. 즉, 방정식은 주어진 조건을 만족하는 미지수의 값을 찾는 문제입니다.

2) 일차 방정식 (Linear Equation)

일차 방정식은 미지수가 1차(제곱 이상의 고차항 없음)로 나타나는 방정식입니다. 일반형은 다음과 같습니다.

\[ a_1x_1 + a_2x_2 + \cdots + a_nx_n = b \]

• \(a_1,\dots,a_n\): 상수(계수)
• \(x_1,\dots,x_n\): 미지수
• \(b\): 상수항

예: \(\;3x + 2y = 5\;\) 는 \(x,y\) 두 변수를 포함한 직선을 나타냅니다. 일반적으로 일차 방정식은 직선 혹은 초평면(hyperplane)을 표현합니다.

3) 연립 일차 방정식 (System of Linear Equations)

하나의 일차 방정식만으로는 해가 무한히 많을 수 있습니다. 여러 개의 방정식을 동시에 만족하는 해를 찾는 문제가 연립 일차 방정식입니다.

예:

\[ \begin{cases} x + y = 2 \\ 2x - y = 1 \end{cases} \]

두 직선이 만나는 교점 \((1,1)\)이 해입니다. 해의 존재와 개수는 보통 계수행렬의 계수(rank)와 관련이 있습니다.

4) Homogeneous System (동차 연립방정식)

모든 상수항이 0인 연립 일차 방정식을 동차(homogeneous)라고 합니다.

\[ a_1x_1 + a_2x_2 + \cdots + a_nx_n = 0 \]

예:

\[ \begin{cases} x + y = 0 \\ 2x - y = 0 \end{cases} \]

동차 시스템은 항상 \(x=0\) (모든 변수가 0)인 해를 가집니다. 이를 자명해라고 합니다. 계수행렬 \(A\)의 성질(예: \(\mathrm{rank}(A)\))에 따라 자명해 외의 해(무수히 많은 해)가 존재할 수도 있습니다.

5) Trivial Solution (자명해)

자명해(trivial solution)는 모든 변수가 0인 해를 뜻합니다. 동차 연립방정식 \(Ax=0\)에서는 항상 \(x=0\)이 해가 됩니다.

만약 \(x \neq 0\)인 해가 존재하면 이를 비자명해(non-trivial solution)라고 하며, 이는 보통 계수행렬이 가역이 아니거나 열들이 선형독립이 아닌 경우에 발생합니다.

---

정리

1. 방정식: 미지수를 포함한 등식, 해를 찾는 문제.
2. 일차 방정식: 미지수가 1차로만 나타나며 직선/초평면을 표현.
3. 연립 일차 방정식: 여러 방정식을 동시에 만족하는 해를 탐색.
4. Homogeneous system: 상수항이 모두 0인 시스템, 항상 자명해 존재.
5. Trivial solution: 모든 변수가 0인 해. 비자명해 유무는 행렬의 랭크와 선형독립성과 관련.