Ch1. AI 자동화 입문 — LLM의 작동 원리와 토큰·컨텍스트

1강 개요: 자동화의 새 엔진, LLM

반복 업무를 사람 대신 처리하는 ‘자동화’는 늘 있었다. 달라진 건 언어를 이해하고 생성하는 AI(LLM) 가 그 엔진이 되면서, 정형화하기 어려웠던 일까지 자동화 범위에 들어왔다는 점이다.

---

1. LLM이란

LLM(Large Language Model, 대규모 언어모델)은 방대한 텍스트로 학습해 “다음에 올 말”을 확률적으로 예측하는 모델이다. ChatGPT·Claude·Gemini 등이 여기에 속한다.

핵심: 입력(프롬프트) → 다음 토큰을 한 개씩 예측·생성 → 출력
"이해"라기보다 '학습한 패턴으로 가장 그럴듯한 말을 잇는' 것

---

2. 토큰 — AI가 글을 보는 단위

LLM은 글자나 단어가 아니라 토큰 단위로 텍스트를 처리한다.

토큰 ≈ 단어 조각(영어는 보통 1단어 ≈ 1~2토큰,
한국어는 글자/형태소 단위로 더 잘게 쪼개짐)
- 입력·출력 모두 토큰으로 계산됨
- API 비용·속도·길이 제한이 모두 '토큰 수' 기준

---

3. 컨텍스트 윈도우 — AI의 ‘작업 기억’

모델이 한 번에 볼 수 있는 토큰의 최대치가 컨텍스트 윈도우다.

- 윈도우를 넘으면 앞부분을 '잊는다'(잘림)
- 긴 대화·문서는 요약·분할로 윈도우 안에 욱여넣어야
- 모델마다 윈도우 크기가 다름(수천~수십만 토큰)

---

4. 온도(Temperature)와 무작위성

온도(temperature): 출력의 무작위성·창의성 조절
- 낮음(0~0.3): 일관·정확(분류·추출·코드)
- 높음(0.7~1.0): 다양·창의(아이디어·카피)
top_p 등 다른 파라미터도 다양성을 제어

자동화에선 보통 낮은 온도로 일관성을 확보한다.

---

5. LLM의 한계 — 자동화 설계의 전제

• 최신 정보·내부 데이터는 모델이 모를 수 있다 → 검색·도구로 보완(다음 강들)
• 같은 입력에도 출력이 달라질 수 있다(무작위성)

---

6. 이 시리즈의 지도

강	주제
1	LLM 기초·토큰·컨텍스트(이번 강)
2	프롬프트 엔지니어링
3	AI 에이전트 — 도구 사용과 자율 루프
4	자동화 연결 — API·노코드·MCP
5	실전 워크플로와 안전·검증

---

이번 강의 핵심 요약

1. LLM은 ‘다음 토큰’을 확률로 예측해 글을 생성한다.
2. AI는 텍스트를 토큰 단위로 처리하며, 비용·한계가 모두 토큰 기준이다.
3. 컨텍스트 윈도우는 AI의 작업 기억으로, 넘으면 앞을 잊는다.
4. 온도로 무작위성을 조절하며, 자동화는 보통 낮은 온도를 쓴다.
5. 할루시네이션은 본질적 한계 — 검증과 사람 확인이 자동화의 전제다.

다음 강의: AI를 원하는 대로 부리는 첫 기술, 프롬프트 엔지니어링을 다룬다. 역할·구조·예시·단계 분할로 출력 품질을 끌어올리는 법을 배운다.