선형대수학 — 1강: 벡터, 행렬, 연립방정식

선형대수학(Linear Algebra)이란?

선형대수학은 벡터, 벡터 공간, 선형 변환, 행렬을 연구하는 수학 분야입니다. 데이터 과학, 머신러닝, 컴퓨터 그래픽스, 물리학, 경제학 등 거의 모든 응용 분야의 수학적 기반입니다.

선형대수학의 핵심 객체:
→ 스칼라 (Scalar): 단일 숫자 (예: 3.14, -7)
→ 벡터 (Vector): 순서가 있는 숫자들의 목록
→ 행렬 (Matrix): 숫자를 직사각형으로 배열
→ 텐서 (Tensor): 행렬의 고차원 일반화

응용 분야:
→ 머신러닝: 데이터를 벡터로, 가중치를 행렬로 표현
→ 컴퓨터 그래픽스: 회전·변환을 행렬 곱으로 표현
→ 네트워크 분석: 인접 행렬 (Adjacency Matrix)
→ 구글 페이지랭크: 행렬 고유벡터 계산

벡터(Vector)

벡터의 정의:
→ 크기(magnitude)와 방향(direction)을 가진 양
→ n차원 벡터: n개의 실수로 구성된 순서쌍

표기 (열 벡터):
   [v₁]
v = [v₂]
   [v₃]

행 벡터: v = [v₁ v₂ v₃]

벡터 연산:

덧셈:
[1]   [3]   [4]
[2] + [1] = [3]
[3]   [2]   [5]

스칼라 곱 (c×v):
    [1]   [2]
2 × [2] = [4]
    [3]   [6]

벡터의 내적 (Dot Product)

내적 (Scalar Product):
→ u · v = u₁v₁ + u₂v₂ + ... + uₙvₙ

예시:
u = [1, 2, 3], v = [4, 5, 6]
u · v = 1×4 + 2×5 + 3×6 = 4 + 10 + 18 = 32

내적의 기하학적 의미:
u · v = |u| |v| cos θ
→ θ: 두 벡터 사이의 각도

수직 조건:
→ u · v = 0 이면 u ⊥ v (두 벡터가 수직)

벡터의 크기 (Norm):
|v| = √(v₁² + v₂² + ... + vₙ²)

단위 벡터:
→ 크기가 1인 벡터
→ v̂ = v / |v|

행렬(Matrix)

행렬의 정의:
→ m×n 행렬: m행 n열의 숫자 배열

표기:
     [a₁₁  a₁₂  a₁₃]
A =  [a₂₁  a₂₂  a₂₃]

예시 (2×3 행렬):
A = [1  2  3]
    [4  5  6]

특수 행렬:
→ 정방 행렬: 행 수 = 열 수 (n×n)
→ 단위 행렬 (I): 대각선이 1, 나머지 0
   I = [1  0]
       [0  1]
→ 영 행렬: 모든 원소가 0
→ 대각 행렬: 대각선 외 원소가 0
→ 전치 행렬 (Aᵀ): 행과 열 교환

행렬 연산

행렬 덧셈 (같은 크기끼리):
[1  2]   [5  6]   [6   8 ]
[3  4] + [7  8] = [10  12]

스칼라 곱:
    [1  2]   [2  4]
2 × [3  4] = [6  8]

행렬 곱 (Matrix Multiplication):
→ A는 m×k, B는 k×n 이면 AB는 m×n 행렬
→ AB의 (i,j) 원소 = A의 i번째 행 · B의 j번째 열의 내적

예시:
A = [1  2],  B = [5  6]
    [3  4]       [7  8]

AB의 (1,1): 1×5 + 2×7 = 19
AB의 (1,2): 1×6 + 2×8 = 22
AB의 (2,1): 3×5 + 4×7 = 43
AB의 (2,2): 3×6 + 4×8 = 50

AB = [19  22]
     [43  50]

주의: AB ≠ BA (교환 불가)

연립일차방정식 (System of Linear Equations)

연립방정식 예:
x + 2y = 5
3x + 4y = 11

행렬 표현: Ax = b
[1  2] [x]   [5 ]
[3  4] [y] = [11]

확대 행렬 (Augmented Matrix):
[1  2 | 5 ]
[3  4 | 11]

가우스 소거법 (Gaussian Elimination)

목표: 확대 행렬을 행 사다리꼴(Row Echelon Form)으로 변환

행 연산:
1. 두 행 교환
2. 한 행에 0이 아닌 상수 곱
3. 한 행의 상수배를 다른 행에 더하기

예시:
[1  2 | 5 ]
[3  4 | 11]

R₂ ← R₂ - 3×R₁:
[1  2 | 5 ]
[0  -2 | -4]

R₂ ← R₂ × (-1/2):
[1  2 | 5]
[0  1 | 2]

역대입 (Back Substitution):
→ y = 2
→ x + 2(2) = 5 → x = 1

검증: x=1, y=2
→ 1 + 2(2) = 5 ✓
→ 3(1) + 4(2) = 11 ✓

해의 유형

연립방정식의 해:

경우 1: 유일해 (Unique Solution)
→ 방정식이 독립적
→ 행 사다리꼴에서 피벗이 n개 (변수 수)

경우 2: 무한히 많은 해 (Infinitely Many Solutions)
→ 방정식이 종속적 (redundant equation 존재)
→ 자유 변수 존재
→ 예: x + y = 3, 2x + 2y = 6 → 같은 식

경우 3: 해 없음 (No Solution, Inconsistent)
→ 모순이 있는 방정식 시스템
→ 행 사다리꼴에서 [0 0 | c≠0] 행 발생
→ 예: x + y = 3, x + y = 5 → 불가능

행렬의 역행렬 (Inverse Matrix)

역행렬 A⁻¹ 의 정의:
→ AA⁻¹ = A⁻¹A = I (단위 행렬)
→ n×n 정방 행렬에만 존재 가능

역행렬 존재 조건:
→ det(A) ≠ 0 (행렬식이 0이 아닐 때)
→ det(A) = 0 이면 역행렬 없음 (특이 행렬)

2×2 역행렬 공식:
A = [a  b]  →  A⁻¹ = 1/(ad-bc) × [d  -b]
    [c  d]                          [-c  a]

활용:
→ Ax = b 의 해: x = A⁻¹b (역행렬 존재 시)

자주 묻는 질문

Q. 선형대수학은 왜 어렵게 느껴지나요? A. 선형대수학은 추상적인 구조를 다루기 때문에 처음에는 직관이 잘 잡히지 않습니다. 벡터를 화살표로, 행렬을 변환으로 시각화하는 연습이 도움됩니다. 3Blue1Brown의 “Essence of Linear Algebra” 시리즈가 시각적 이해에 탁월합니다.

Q. 선형대수학이 머신러닝에서 왜 중요한가요? A. 머신러닝에서 데이터를 행렬(데이터 행 × 특성 열)로 표현하고, 신경망의 가중치도 행렬입니다. 행렬 연산 최적화가 딥러닝 계산의 핵심이며, GPU는 본질적으로 행렬 병렬 연산 가속 장치입니다.

OIYO 편집부