AI, 머신러닝, 딥러닝: 용어부터 바로잡기

"AI가 그림을 그렸다", "머신러닝으로 사기 거래를 잡았다", "딥러닝 모델이 암을 찾아냈다", "LLM이 코드를 짰다". 뉴스에서는 이 말들이 거의 같은 뜻처럼 쓰여요. 하지만 공부를 시작하려면 먼저 지도가 필요해요. 이 단어들은 서로 다른 크기의 원이고, 하나가 다른 하나를 품고 있어요.

한 장으로 보는 관계

큰 원부터 AI ⊃ 머신러닝 ⊃ 딥러닝 ⊃ 대형 언어 모델(LLM) 순서로 안에 들어 있다고 생각하면 돼요. 그러니 "LLM은 AI다"는 맞지만 "AI는 LLM이다"는 틀려요. 수학 기초 트랙의 집합 강의에서 배운 포함 관계 그대로예요.

AI: 지능이 필요한 일을 기계에게

"인공지능"이라는 말은 1955년, 이듬해 열린 다트머스 워크숍의 제안서에서 처음 쓰였어요. 매카시, 민스키, 섀넌 같은 연구자들이 "학습이나 지능의 모든 측면을 기계가 흉내 내도록 정확히 기술할 수 있다"는 야심 찬 가정으로 출발했죠.

초기 AI의 주류는 사람이 규칙을 직접 적는 방식이었어요.

• 전문가 시스템: 1970년대와 80년대에 의사나 엔지니어의 지식을 "만약 이렇다면 저렇게 한다"는 규칙 수천 개로 옮겨 적었어요. 혈액 감염 진단, 컴퓨터 부품 구성 같은 좁은 분야에서는 꽤 쓸 만했어요.
• 탐색: 1997년 체스 세계 챔피언 카스파로프를 이긴 IBM의 딥 블루는 1초에 수억 개의 수를 따져 보는 탐색과, 사람이 설계한 형세 판단 공식으로 움직였어요. 분명 AI지만, 데이터에서 배우는 머신러닝은 아니었어요.

규칙 방식에는 넘을 수 없는 벽이 있었어요. "사진 속에 고양이가 있으면 참"이라는 규칙을 적어 본다고 생각해 보세요. 귀가 뾰족하고, 수염이 있고... 하지만 뒤돌아 있는 고양이, 반쯤 가려진 고양이, 그림 속 고양이는요? 사람은 순식간에 알아보지만 그 방법을 말로 적을 수가 없어요. 기대가 꺾일 때마다 연구비가 끊기는 "AI의 겨울"이 1970년대와 80년대 말에 찾아온 이유 중 하나예요.

머신러닝: 규칙을 데이터에서 배운다

그래서 발상을 뒤집었어요. 규칙을 적는 대신, 예시를 잔뜩 보여 주고 규칙을 기계가 찾게 하는 거예요.

1959년 체커 게임 프로그램을 만든 아서 새뮤얼이 "머신러닝"이라는 말을 널리 알렸어요. 그의 프로그램은 스스로 수천 판을 두면서 실력을 늘려, 만든 사람보다 체커를 잘 두게 됐어요. 오늘날 교과서에서 자주 쓰는 정의는 1997년 톰 미첼의 것이에요.

어떤 작업 T에 대해, 경험 E를 통해, 성능 P가 좋아진다면 그 프로그램은 학습한다고 말한다.

스팸 필터로 바꿔 말하면 이래요. 작업 T는 "메일을 스팸과 정상으로 나누기", 경험 E는 "사람이 스팸이라고 표시한 메일들", 성능 P는 "제대로 나눈 비율"이에요. 표시된 메일이 쌓일수록 분류가 정확해진다면, 그 필터는 학습하고 있는 거예요.

직접 해 보기: 화씨 공식을 데이터에서 찾기

섭씨를 화씨로 바꾸는 공식은 $F = 1.8C + 32$예요. 이 공식을 알려 주지 않고, 섭씨와 화씨 짝 6개만 보여 준 뒤 기계가 스스로 찾게 해 볼게요. 모델은 $F = wC + b$ 모양이라고만 정해 두고, $w$와 $b$는 0에서 시작해요.

import numpy as np

celsius = np.array([-10, 0, 10, 20, 30, 40], dtype=float)
fahrenheit = 1.8 * celsius + 32          # 정답 데이터 (모델에게 공식은 알려 주지 않아요)

w, b = 0.0, 0.0                           # 처음엔 아무것도 몰라요
lr = 0.001                                # 학습률: 한 번에 얼마나 고칠지
for step in range(1, 20001):
    pred = w * celsius + b                # 지금 규칙으로 예측
    err = pred - fahrenheit               # 얼마나 틀렸나
    w -= lr * 2 * (err * celsius).mean()  # 오차를 줄이는 방향으로 조금씩
    b -= lr * 2 * err.mean()
    if step in (1, 100, 1000, 5000, 20000):
        print(step, round(w, 3), round(b, 3))
print(round(w * 100 + b, 1))              # 100도는 화씨로?

처음엔 엉뚱하던 $w$와 $b$가 반복할수록 1.8과 32에 다가가요. 그리고 보여 준 적 없는 100도를 넣으면 212도라는 정답을 내놓아요. 이것이 머신러닝의 전부를 아주 작게 줄인 모습이에요.

1. 모델: 규칙의 모양을 정해요. 여기서는 직선 $wC + b$예요.
2. 손실: 얼마나 틀렸는지 재요. 여기서는 오차 제곱의 평균이에요(회귀 강의의 최소제곱).
3. 최적화: 손실이 줄어드는 방향으로 숫자를 조금씩 고쳐요. 미적분 트랙의 경사 하강법이에요.
4. 일반화: 본 적 없는 입력에도 맞는 답을 내요. 이게 진짜 목표예요.

앞으로 배울 모든 모델, 수천억 개의 숫자를 가진 언어 모델까지도 이 네 가지 구조는 똑같아요. 달라지는 건 모델의 모양과 크기, 그리고 데이터의 양이에요.

딥러닝: 특징까지 스스로 배운다

전통적인 머신러닝에서는 데이터를 넣기 전에 사람이 특징을 골라 줘야 했어요. 스팸 필터라면 "느낌표 개수", "링크 개수", "무료라는 단어가 있는가" 같은 것들이요. 사진이라면 "윤곽선의 방향", "색의 분포" 같은 것을 사람이 설계했어요. 성능은 특징을 얼마나 잘 고르느냐에 크게 달려 있었죠.

딥러닝은 이 단계까지 기계에게 맡겨요. 픽셀이나 글자를 그대로 넣으면, 여러 층으로 쌓인 신경망이 스스로 특징을 만들어요. 이미지 모델을 열어 보면 앞쪽 층은 선과 모서리에, 중간 층은 눈이나 바퀴 같은 부분에, 뒤쪽 층은 얼굴이나 자동차 같은 전체에 반응하도록 배워 있어요. "깊은(deep)" 학습이라는 이름은 이 층이 많다는 뜻이에요.

신경망 자체는 1950년대부터 있던 아이디어예요. 그런데 왜 2010년대에 갑자기 터졌을까요?

• 데이터: 인터넷 덕분에 사람이 이름표를 붙인 이미지 100만 장이 넘는 데이터셋(이미지넷) 같은 것이 생겼어요.
• 계산: 게임용 그래픽 카드(GPU)가 신경망 계산에 딱 맞는 병렬 계산기라는 게 밝혀졌어요.
• 기법: 깊은 신경망을 안정적으로 학습시키는 요령들이 쌓였어요.

결정적 장면은 2012년 이미지넷 대회예요. 딥러닝 모델 알렉스넷이 상위 5개 예측 오류율 15.3%를 기록했는데, 2등은 26.2%였어요. 그 뒤 몇 년 만에 이미지, 음성, 번역 분야의 거의 모든 최고 기록이 딥러닝으로 바뀌었어요. 2016년 3월 서울에서 알파고가 이세돌 9단을 4대 1로 이긴 것도 딥러닝, 강화 학습, 탐색을 합친 결과였어요.

생성형 AI와 LLM은 어디에 있나

지금까지의 모델은 주로 판단했어요. 이 사진은 고양이인가, 이 메일은 스팸인가. 생성형 AI는 새로운 글, 그림, 소리, 코드를 만들어 내요.

그중 **대형 언어 모델(LLM)**은 엄청난 양의 글로 "다음에 올 토큰(단어 조각)"을 맞히도록 학습한 딥러닝 모델이에요. 2017년에 나온 트랜스포머라는 신경망 구조가 바탕이에요. 다음 단어 맞히기라는 단순한 과제를 아주 큰 모델과 아주 많은 글로 하자, 번역, 요약, 코딩, 추론 같은 능력이 함께 따라왔어요.

ChatGPT나 Claude 같은 챗봇은 LLM에 몇 단계를 더 얹은 제품이에요. 사람의 지시를 따르도록 추가 학습을 하고, 사람이 더 좋다고 고른 답을 내도록 조정하고(정보 이론 강의에서 본 RLHF), 대화 화면과 안전장치를 붙인 거죠. LLM 트랙에서 이 과정을 하나씩 뜯어봐요.

좁은 AI와 범용 AI

지금의 AI는 대부분 특정한 일을 아주 잘하도록 만들어진 좁은 AI예요. 바둑 AI는 운전을 못하고, 번역 모델은 바둑을 못 둬요. LLM은 훨씬 많은 일을 하지만, 여전히 엉뚱한 실수를 하고 경험으로 꾸준히 배워 가는 능력은 제한적이에요.

사람처럼 거의 모든 지적 작업을 해내는 **범용 인공지능(AGI)**이 언제 가능할지, 어떻게 정의할지는 전문가들 사이에서도 의견이 크게 갈려요. 그래서 이 가이드북은 과장도 공포도 아닌 태도를 권해요. 무엇을 할 수 있고 무엇을 못하는지 직접 원리를 알고 판단하는 것이요. 그게 이 공부의 목적이기도 해요.

머신러닝이 잘하는 일과 못하는 일

잘하는 일

• 사람이 규칙을 말로 설명하기 어렵지만 예시는 많은 일: 얼굴 인식, 음성 인식, 손글씨 읽기
• 데이터가 많고 패턴이 반복되는 예측: 수요 예측, 사기 탐지, 추천
• 사람이 일일이 보기엔 너무 많은 것 훑어보기: 수백만 건의 로그에서 이상한 것 찾기

못하거나 조심해야 하는 일

• 데이터가 적은 일: 예시가 몇 개뿐이면 규칙을 찾기 어려워요.
• 학습 때와 다른 상황: 맑은 날 사진만 보고 배운 자율 주행 모델은 폭설에서 헤맬 수 있어요. 이걸 분포 변화라고 해요.
• 인과 판단: 회귀 강의에서 봤듯이 모델은 상관을 배울 뿐, "왜"를 알지 못해요.
• 데이터의 편향: 쓰레기를 넣으면 쓰레기가 나와요. 과거 채용 데이터에 차별이 있었다면, 그걸로 배운 모델도 차별해요.
• 틀리면 안 되는 일: 모델은 확률적으로 맞혀요. 정확도 99%여도 1%는 틀린다는 뜻이고, 그 1%가 무엇인지 미리 알기 어려워요.

지금까지 배운 수학의 자리

가이드북 앞 트랙들에서 배운 것이 머신러닝의 어디에 쓰이는지 정리하면 이래요.

화씨 예제 하나에도 선형 모델(선형대수), 제곱 오차(통계), 경사 하강법(미적분)이 다 들어 있었어요. 수학을 먼저 공부한 보람이 이제부터 나타나요.

이 트랙에서 배울 것

1. 지금 읽은 용어와 지도
2. 지도 학습, 비지도 학습, 강화 학습: 데이터로 배우는 세 가지 방식
3. 선형 회귀와 로지스틱 회귀: 가장 단순한 모델의 힘
4. 결정 트리와 앙상블: 랜덤 포레스트와 부스팅
5. 모델 평가: 과적합, 교차 검증, 지표 고르기
6. 데이터 전처리와 특징 공학
7. 비지도 학습: 군집과 차원 축소
8. scikit-learn으로 끝까지 해 보는 프로젝트

실습

1. 화씨 예제에서 학습률 lr을 0.01로 올려 보세요. 무슨 일이 일어나나요? 미적분 트랙의 최적화 강의에서 본 "발산"을 직접 확인할 수 있어요.
2. 데이터를 6개에서 2개(예: 0도와 10도)로 줄여도 공식을 찾나요? 데이터에 오차를 섞으면(fahrenheit += np.random.normal(0, 3, 6)) 결과가 어떻게 변하나요?
3. 주변에서 쓰는 AI 서비스 세 가지를 골라, 각각 위 표의 어느 원에 들어가는지, 작업 T, 경험 E, 성능 P가 무엇일지 적어 보세요.

자주 하는 오해

• "AI는 곧 ChatGPT다." 챗봇은 AI라는 큰 원 안의 작은 한 점이에요. 내비게이션의 길 찾기도, 스팸 필터도 AI예요.
• "머신러닝은 스스로 생각한다." 정해진 모양의 모델 안에서 손실을 줄이도록 숫자를 고칠 뿐이에요. 무엇을 배울지는 데이터와 손실 함수가 정해요.
• "데이터만 많으면 다 된다." 데이터의 질, 편향, 학습과 실제 상황의 차이가 양만큼 중요해요.
• "딥러닝이 항상 최고다." 표 형태의 데이터에서는 지금도 결정 트리 앙상블이 딥러닝보다 나은 경우가 많아요. 이 트랙에서 직접 비교해 봐요.

점검 문제

1. "모든 딥러닝은 머신러닝이다"와 "모든 머신러닝은 딥러닝이다" 중 맞는 것은?
2. 딥 블루가 머신러닝이 아니라고 하는 이유는?
3. 톰 미첼의 정의에서 T, E, P는 각각 무엇인가요? 번역기에 적용해 보세요.
4. 화씨 예제에서 "모델, 손실, 최적화"는 각각 무엇이었나요?
5. 전통적인 머신러닝과 딥러닝의 가장 큰 차이는?

정답

1. 앞의 것이 맞아요. 딥러닝은 머신러닝의 한 종류예요.
2. 데이터에서 규칙을 배운 게 아니라, 사람이 설계한 평가 공식과 탐색으로 움직였기 때문이에요.
3. T는 작업, E는 경험(데이터), P는 성능 지표예요. 번역기라면 T는 문장 번역, E는 원문과 번역문 짝 데이터, P는 번역 품질 점수예요.
4. 모델은 $F = wC + b$라는 직선, 손실은 오차 제곱의 평균, 최적화는 경사 하강법이었어요.
5. 전통적인 머신러닝은 사람이 특징을 설계하고, 딥러닝은 여러 층의 신경망이 원래 데이터에서 특징까지 스스로 배워요.

다음 강의

다음 강의에서는 데이터로 배우는 세 가지 방식, 지도 학습, 비지도 학습, 강화 학습을 배워요. 정답이 있는 데이터, 정답이 없는 데이터, 정답 대신 보상만 있는 환경에서 각각 무엇을 어떻게 배우는지, 그리고 LLM은 이 셋을 어떻게 섞어 쓰는지 확인해요.