데이터로 배우는 법: 지도, 비지도, 강화 학습
정답이 있는 데이터로 배우는 지도 학습, 정답 없이 구조를 찾는 비지도 학습, 보상을 받으며 시행착오로 배우는 강화 학습, 그리고 언어 모델을 만든 자기 지도 학습까지 네 가지 방식을 손글씨 숫자 분류, 고객 묶기, 미로 찾기 예제로 직접 돌려 보며 구별해요.
아이가 세상을 배우는 방법을 떠올려 보세요. 엄마가 "이건 강아지야"라고 알려 주면 이름을 배우고(정답이 있는 배움), 혼자 장난감을 비슷한 것끼리 모아 놓기도 하고(정답 없는 배움), 뜨거운 냄비를 만졌다가 놀라서 다음부터 조심하기도 해요(경험과 보상으로 배우는 배움). 머신러닝도 크게 이 세 가지 방식으로 배워요. 어떤 방식이냐에 따라 필요한 데이터도, 풀 수 있는 문제도 달라져요.
먼저 단어 정리
머신러닝의 데이터는 대부분 표 모양이에요. 집값을 예측한다면 이렇게요.
| 면적(㎡) | 방 수 | 역까지(분) | 지은 해 | 가격(억) |
|---|---|---|---|---|
| 59 | 3 | 7 | 2015 | 6.2 |
| 84 | 3 | 15 | 2008 | 7.9 |
| 114 | 4 | 4 | 2020 | 13.5 |
- 샘플(행): 집 한 채, 사진 한 장, 메일 한 통처럼 데이터 하나하나
- 특징(열, feature): 샘플을 설명하는 값들. 면적, 방 수, 역까지 거리
- 정답(레이블, target): 맞히고 싶은 값. 여기서는 가격
선형대수 트랙의 말로 하면, 데이터 전체는 행렬 이고 정답은 벡터 예요. 샘플이 개, 특징이 개면 는 행렬이죠.
지도 학습: 정답을 보고 배운다
정답이 붙은 예시로 "입력에서 정답으로 가는 규칙"을 배우는 방식이에요. 선생님(정답)이 지도해 준다고 해서 지도 학습이에요. 지금 현업에서 쓰는 머신러닝의 대부분이 이 방식이에요.
정답의 모양에 따라 두 가지로 나뉘어요.
| 회귀 | 분류 | |
|---|---|---|
| 정답 | 숫자 | 정해진 종류 중 하나 |
| 예 | 집값, 내일 기온, 배달 시간 | 스팸인가 아닌가, 사진 속 동물, 손글씨 숫자 |
| 손실 | 평균 제곱 오차 | 교차 엔트로피 |
확률과 통계 트랙의 회귀 강의가 회귀의 기본형이었고, 정보 이론 강의의 교차 엔트로피가 분류의 손실이었어요.
직접 해 보기: 손글씨 숫자 알아보기
scikit-learn에 들어 있는 손글씨 숫자 1,797장으로 해 볼게요. 사진 한 장은 8×8 픽셀이라, 밝기 64개가 특징이에요.
import numpy as np
from sklearn.datasets import load_digits
from sklearn.model_selection import train_test_split
from sklearn.neighbors import KNeighborsClassifier
X, y = load_digits(return_X_y=True)
print(X.shape) # (1797, 64)
# 75%로 배우고, 배울 때 보지 않은 25%로 시험을 봐요
X_tr, X_te, y_tr, y_te = train_test_split(X, y, test_size=0.25, random_state=0)
model = KNeighborsClassifier(n_neighbors=3).fit(X_tr, y_tr)
print(round(model.score(X_te, y_te), 3)) # 0.987
print(model.predict(X_te[:10]), y_te[:10]) # [2 8 2 6 6 7 1 9 8 5] 두 줄이 같아요
시험 문제 450장 중 444장을 맞혔어요(정확도 98.7%). 숫자 모양에 대한 규칙은 한 줄도 쓰지 않았어요. 여기서 쓴 k-최근접 이웃은 가장 단순한 모델 중 하나예요. 새 사진이 오면 배운 사진 중 가장 비슷한(64차원 공간에서 거리가 가장 가까운) 3장을 찾아 다수결로 정해요. 선형대수 트랙의 벡터 거리가 그대로 쓰여요.
시험지는 따로 떼어 둔다
여기서 가장 중요한 줄은 train_test_split이에요. 공부할 때 본 문제로 시험을 보면 실력을 알 수 없죠. 답을 외웠을 수도 있으니까요. 그래서 데이터 일부를 처음부터 떼어 놓고, 모델이 그 데이터를 한 번도 보지 못하게 한 뒤 마지막에 성적을 매겨요. 머신러닝의 목표는 본 데이터를 잘 맞히는 게 아니라 **처음 보는 데이터를 잘 맞히는 것(일반화)**이에요. 평가 강의에서 이 원칙을 깊게 다뤄요.
비지도 학습: 정답 없이 구조를 찾는다
정답이 없는 데이터에서 스스로 패턴을 찾는 방식이에요. 정답을 붙이는 데는 사람의 시간과 돈이 들지만, 정답 없는 데이터는 넘쳐나요. 대표적인 일은 두 가지예요.
- 군집: 비슷한 것끼리 묶기. 고객 나누기, 비슷한 뉴스 묶기
- 차원 축소: 특징 수백 개를 핵심 몇 개로 줄이기. 선형대수 트랙의 PCA가 바로 이거예요
직접 해 보기: 고객 나누기
어느 가게의 고객 300명이 한 달에 방문한 횟수와 쓴 돈(만 원)이 있어요. 고객 유형 같은 정답은 없어요.
from sklearn.datasets import make_blobs
from sklearn.cluster import KMeans
# 실제로는 세 유형이 섞여 있지만, 모델에게는 알려 주지 않아요
X_c, hidden = make_blobs(n_samples=300, centers=[[2, 20], [8, 60], [4, 120]],
cluster_std=[1.0, 2.0, 1.5], random_state=1)
km = KMeans(n_clusters=3, n_init=10, random_state=0).fit(X_c)
print(km.cluster_centers_.round(1))
print(np.bincount(km.labels_)) # [100 100 100]
| 찾아낸 묶음 | 방문(회/월) | 지출(만 원/월) | 해석 |
|---|---|---|---|
| 1 | 2.2 | 20.0 | 가끔 오는 가벼운 손님 |
| 2 | 4.0 | 120.3 | 가끔 와서 크게 쓰는 손님 |
| 3 | 7.8 | 60.1 | 자주 오는 단골 |
알고리즘은 묶음을 찾을 뿐이고, 이름과 해석은 사람이 붙여요. 이 묶음별로 다른 쿠폰을 보내는 식으로 써요. 같은 방법을 손글씨 숫자에 정답 없이 적용하면, 숫자 10종을 꽤 비슷하게 다시 찾아내요(우연 수준을 0, 완벽을 1로 하는 일치 점수가 약 0.67). 아무도 숫자를 가르쳐 주지 않았는데도요.
강화 학습: 해 보고, 보상받고, 고친다
정답 대신 보상만 있는 상황에서 배우는 방식이에요. 바둑을 둘 때 "이 수가 정답"이라고 알려 주는 사람은 없어요. 다 둔 뒤에 이겼는지 졌는지만 알 수 있죠. 강화 학습에서는 이렇게 불러요.
- 에이전트: 행동하는 쪽 (바둑 AI, 로봇)
- 환경: 에이전트가 움직이는 세계
- 행동: 에이전트가 고를 수 있는 것
- 보상: 행동의 결과로 받는 점수
직접 해 보기: 복도 끝까지 가기
칸 6개짜리 복도의 맨 왼쪽에서 출발해 맨 오른쪽 칸에 닿으면 보상 1을 받아요. 한 걸음마다 0.01씩 벌점을 받아서 빨리 갈수록 좋아요. 에이전트는 이 규칙을 모르고, 왼쪽이나 오른쪽으로 걸어 보며 배워요.
rng = np.random.default_rng(0)
goal = 5
Q = np.zeros((6, 2)) # 칸마다 [왼쪽, 오른쪽]으로 갔을 때의 기대 점수
for episode in range(200):
s = 0
for t in range(50):
# 20%는 아무렇게나 가 보고(탐색), 나머지는 지금까지 제일 좋았던 쪽으로(활용)
a = rng.integers(2) if rng.random() < 0.2 else int(np.argmax(Q[s]))
s2 = max(0, s - 1) if a == 0 else min(goal, s + 1)
r = 1.0 if s2 == goal else -0.01
Q[s, a] += 0.5 * (r + 0.9 * Q[s2].max() * (s2 != goal) - Q[s, a])
s = s2
if s == goal:
break
print("".join("←→"[int(np.argmax(Q[s]))] for s in range(goal))) # →→→→→
200번 해 보고 나니 모든 칸에서 "오른쪽"을 고르게 됐어요. 이 방법을 Q 학습이라고 해요. 칸마다 "여기서 이 행동을 하면 앞으로 얼마나 좋을까"(Q값)를 경험으로 갱신해요. 결과를 보면 목표 바로 앞 칸의 오른쪽 Q값은 1.0, 한 칸 더 먼 곳은 0.89, 그다음은 0.79처럼 멀수록 작아요. 미래의 보상을 0.9씩 깎아서 계산하기 때문이에요.
베이즈 추론 강의의 톰슨 샘플링에서 본 탐색과 활용의 균형이 여기서도 핵심이에요. 탐색을 안 하면 처음 우연히 찾은 길만 고집하고, 탐색만 하면 배운 걸 써먹지 못해요.
강화 학습은 게임, 로봇 제어, 추천처럼 행동이 결과를 바꾸는 문제에 써요. 2016년 알파고도 사람 기보로 지도 학습을 한 뒤, 스스로 수많은 대국을 두는 강화 학습으로 실력을 키웠어요. 그리고 ChatGPT 같은 챗봇을 사람 취향에 맞게 다듬는 단계(RLHF)도 강화 학습이에요.
네 번째 방식: 자기 지도 학습
대형 언어 모델은 어떻게 배웠을까요? 인터넷의 글에 사람이 정답을 일일이 붙여 준 게 아니에요. 데이터 자신에서 정답을 만들어 내요.
"오늘 날씨가 정말 ___" 다음에 올 단어 맞히기
문장의 뒷부분을 가려 두고 맞히게 하면, 정답은 원래 문장에 이미 들어 있어요. 사람의 수고 없이 정답이 붙은 문제를 거의 무한히 만들 수 있죠. 이것을 자기 지도 학습이라고 해요. 형식은 지도 학습(다음 단어 분류)이지만 데이터는 비지도 학습처럼 정답 없는 글이에요. 수천억 개의 단어로 이 문제를 풀다 보니 문법, 지식, 추론 능력까지 따라왔어요. 이미지에서도 사진 일부를 가리고 맞히게 하는 같은 방식이 쓰여요.
정리하면 챗봇 하나가 만들어지는 과정에 세 방식이 다 들어가요.
- 자기 지도 학습: 엄청난 양의 글로 다음 단어 맞히기 (사전 학습)
- 지도 학습: 사람이 쓴 좋은 질문과 답 예시로 지시 따르기 연습
- 강화 학습: 사람이 더 좋다고 고른 답이 나오도록 다듬기
어떤 방식을 고를까
| 상황 | 방식 |
|---|---|
| 맞히고 싶은 답이 있고, 정답이 붙은 예시가 충분하다 | 지도 학습 |
| 정답은 없지만 데이터 속 구조, 묶음, 이상한 점이 궁금하다 | 비지도 학습 |
| 행동을 골라야 하고, 결과(보상)를 나중에야 알 수 있다 | 강화 학습 |
| 정답 없는 데이터는 많은데, 정답 붙은 데이터는 조금뿐이다 | 자기 지도 학습으로 미리 배운 뒤 조금의 정답으로 맞추기 |
마지막 줄이 요즘 가장 흔한 방법이에요. 큰 모델이 미리 배운 것을 가져와 내 문제에 맞게 조금만 더 가르치는 미세 조정이에요. 딥러닝 트랙과 LLM 트랙에서 다시 만나요.
데이터가 전부를 좌우한다
어떤 방식이든 모델은 데이터에서만 배워요. 그래서 이런 데이터 문제가 성능을 가장 크게 좌우해요.
- 정답이 틀린 데이터: 사람이 붙인 정답의 몇 %는 틀려 있어요. 모델은 그 실수까지 배워요.
- 치우친 데이터: 표본과 추정 강의에서 본 것처럼, 실제를 대표하지 못하는 데이터는 아무리 많아도 소용없어요.
- 변하는 세상: 작년 데이터로 배운 수요 예측 모델은 유행이 바뀌면 틀리기 시작해요.
실습
- 손글씨 예제에서
n_neighbors를 1, 3, 15, 50으로 바꿔 정확도가 어떻게 변하는지 보세요. 너무 작거나 너무 크면 왜 나빠질까요? - 고객 나누기에서
n_clusters를 2나 5로 바꿔 보세요. 알고리즘은 몇 개로 나누든 결과를 내놓는다는 점을 확인하고, "몇 개가 맞는지"는 어떻게 정할지 생각해 보세요. - 복도 예제에서 탐색 비율 0.2를 0으로 바꾸면 어떻게 되나요? 몇 번 실행해서 확인해 보세요.
- 주변 서비스 세 개를 골라 각각 어떤 방식(지도, 비지도, 강화, 자기 지도)을 쓸지 적어 보세요.
자주 하는 오해
- "비지도 학습이 찾은 묶음은 진짜 정답이다." 알고리즘은 요청한 개수대로 어떻게든 나눠요. 묶음의 의미는 사람이 검증해야 해요.
- "강화 학습이 제일 똑똑한 방법이다." 보상을 설계하기 어렵고, 엄청난 시행착오가 필요해요. 정답 데이터가 있으면 대개 지도 학습이 훨씬 효율적이에요.
- "정확도가 높으면 다 된 거다." 시험 데이터를 따로 떼지 않았거나, 시험 데이터가 실제 상황과 다르면 그 숫자는 의미가 없어요.
점검 문제
- 손글씨 사진 한 장은 8×8 픽셀이에요. 이 데이터에서 특징은 몇 개인가요?
- 다음 문제는 회귀인가요, 분류인가요? (가) 내일 배달 주문 수 (나) 리뷰가 긍정인지 부정인지
- 고객 나누기에서 정답(고객 유형)을 쓰지 않았는데, 어떻게 묶음을 찾았나요?
- 강화 학습에서 미래 보상을 0.9씩 깎아 계산하면, 목표에 가까운 칸과 먼 칸의 Q값은 어떻게 달라지나요?
- 언어 모델의 사전 학습을 "자기 지도 학습"이라고 부르는 이유는?
정답
- 픽셀 하나하나의 밝기가 특징이라 64개예요.
- (가)는 숫자를 맞히니 회귀, (나)는 두 종류 중 하나를 고르니 분류예요.
- 특징 공간에서 서로 가까운 고객끼리 묶었어요. k-평균은 묶음의 중심과 각 고객 사이의 거리를 줄이는 방향으로 중심을 반복해서 옮겨요.
- 목표에서 멀수록 보상이 여러 번 깎여서 Q값이 작아져요. 그래서 Q값이 커지는 쪽으로 가면 목표에 다가가요.
- 사람이 정답을 붙이지 않고, 문장의 다음 단어처럼 데이터 안에 이미 있는 것을 정답으로 삼기 때문이에요.
다음 강의
다음 강의에서는 지도 학습의 가장 기본 모델인 선형 회귀와 로지스틱 회귀를 처음부터 구현하고, scikit-learn으로 같은 결과를 확인해요. 단순한 모델이 왜 여전히 현업에서 1순위로 쓰이는지도 알아봐요.