Ch2. 머신러닝 기초 — 지도·비지도·강화학습의 차이

머신러닝이란?

**머신러닝(Machine Learning)**은 명시적으로 프로그래밍하지 않고 데이터로부터 패턴을 학습해 예측하거나 결정을 내리는 AI의 하위 분야입니다.

전통적 프로그래밍: 규칙 + 데이터 → 출력
머신러닝: 데이터 + 출력 → 규칙(모델)

정의: 입력(X)과 정답 레이블(Y)이 쌍으로 된 데이터로 학습

핵심: 모델은 X → Y의 매핑 함수를 찾는다

문제 유형	예시	주요 알고리즘
분류(Classification)	스팸 메일 탐지, 이미지 분류	로지스틱 회귀, SVM, 랜덤 포레스트, 신경망
회귀(Regression)	주택 가격 예측, 주가 예측	선형 회귀, 릿지, 라쏘, 그래디언트 부스팅

지도학습의 핵심 조건: 고품질 레이블 데이터. 레이블링에는 많은 시간과 비용이 들기 때문에, 레이블 데이터의 양과 질이 모델 성능의 상한선을 결정합니다.

정의: 레이블 없는 데이터에서 숨겨진 구조나 패턴을 발견

핵심: 정답 없이 데이터 자체의 구조를 학습

정의: 에이전트가 환경과 상호작용하며 보상을 최대화하는 정책을 학습

핵심 구성 요소:

응용: AlphaGo(바둑), 자율주행, 로봇 제어, 추천 시스템

           과소적합          적정           과적합
훈련 오류:  높음         →   낮음    →    매우 낮음
검증 오류:  높음         →   낮음    →    높음

과소적합(Underfitting): 모델이 너무 단순해 훈련 데이터조차 제대로 학습 못함
→ 해결: 더 복잡한 모델, 더 많은 특성, 덜 강한 정규화

과적합(Overfitting): 모델이 훈련 데이터의 노이즈까지 외워 새 데이터에 일반화 실패
→ 해결: 더 많은 데이터, 정규화(L1/L2), 드롭아웃, 조기 종료

편향(Bias): 잘못된 가정으로 인한 오류 (과소적합)
분산(Variance): 데이터 변동에 대한 과민 반응 (과적합)

총 오류 = 편향² + 분산 + 줄일 수 없는 노이즈

좋은 모델은 편향과 분산 사이의 최적 균형점을 찾는다.

알고리즘	장점	단점	적합한 경우
선형 회귀	해석 용이, 빠름	비선형 관계 포착 불가	선형 관계가 명확한 경우
결정 트리	직관적, 비선형 처리	과적합 취약	해석이 중요한 경우
랜덤 포레스트	강건, 과적합 저항	해석 어려움, 느림	분류·회귀 범용
SVM	고차원 유효, 강건	대용량 데이터 느림	중소규모 분류
신경망	복잡한 패턴 학습	많은 데이터·컴퓨팅 필요	이미지·텍스트·음성
XGBoost	높은 성능, 빠름	하이퍼파라미터 많음	정형 데이터 경쟁

지도/비지도/강화학습 ★★★★★ : 지도=레이블 있음, 비지도=레이블 없음, 강화=보상 신호. 세 패러다임의 차이를 명확히 구분.

과적합 vs 과소적합 ★★★★★ : 과적합=훈련↑검증↓, 과소적합=모두↑. 정규화·드롭아웃·더 많은 데이터로 과적합 완화.

편향-분산 트레이드오프 ★★★★☆ : 단순 모델=높은 편향·낮은 분산, 복잡 모델=낮은 편향·높은 분산. 최적점을 찾는 것이 ML의 핵심.

Q1. 이메일 스팸 분류 시스템 개발 시 적절한 학습 패러다임은?

지도학습. 스팸/정상 레이블이 달린 이메일 데이터로 분류 모델을 훈련한다. 레이블된 학습 데이터가 있고 명확한 출력(스팸 여부)이 있으므로 지도학습이 적합하다.

Q2. 훈련 정확도는 99%인데 테스트 정확도가 72%라면 무슨 문제인가?

과적합(Overfitting). 모델이 훈련 데이터를 거의 암기 수준으로 학습해 새로운 데이터에 일반화하지 못하는 상태다. 정규화 강화, 드롭아웃 추가, 훈련 데이터 증대, 더 단순한 모델 사용 등으로 해결할 수 있다.