예시를 보며 틀린 만큼 모델 속 숫자를 조금씩 고치는 과정이에요.
학습은 모델이 예시를 보고 답을 내 본 뒤, 정답과 얼마나 다른지 재서 그 차이가 줄어드는 쪽으로 안의 숫자(파라미터)를 아주 조금 고치는 일이에요. 이걸 셀 수 없이 많이 반복하면 처음엔 엉터리이던 답이 점점 그럴듯해져요.
틀린 정도를 거꾸로 따라가며 어떤 숫자를 얼마나 고칠지 계산하는 방법을 역전파라고 해요. 큰 모델을 학습시키려면 그래픽카드를 수천 장 넘게 써서 몇 주에서 몇 달이 걸리기도 해요. 학습은 모델을 만들 때 크게 하고, 다 만든 모델을 쓰는 일은 추론이라고 따로 불러요.
비유로 보면
수학 문제집을 풀고 채점한 뒤, 틀린 문제를 보고 풀이 습관을 고치는 것과 비슷해요. 다만 AI는 '아하!' 하고 깨닫는 게 아니라, 틀린 만큼 숫자를 기계적으로 조금씩 옮겨요.
예를 들면
문장의 다음 단어를 가리고 맞혀 보게 한 뒤, 틀리면 숫자를 고치는 걸 끝없이 반복하는 게 대형 언어 모델의 학습이에요.
자주 하는 오해
오해AI는 학습하면서 '아하!' 하고 깨닫는다.
실제로는학습하는 동안 연구자들은 틀린 정도를 나타내는 '손실' 값을 그래프로 지켜봐요. 이 선은 대개 오르락내리락하며 조금씩 내려가는데, 깨달음의 순간이라기보다 작은 수정이 수없이 쌓인 흔적이에요.
오해AI는 내가 쓸 때마다 그 자리에서 학습한다.
실제로는질문하는 순간 모델 속 숫자가 바뀌지는 않아요. 다만 서비스에 따라 대화를 모아 두었다가 다음 모델을 학습시키는 데 쓰기도 하니, 설정에서 끌 수 있는지 확인해 보세요.
수업에서 써 보기
선생님은 수업 시작에, 학생은 혼자 공부할 때 써 보세요.
- 질문
- 틀린 만큼만 조금씩 고친다면, 왜 그렇게 많이 되풀이해야 할까요?
- 활동
- 종이 공을 상자에 던져 넣는 놀이로 학습을 흉내 내 봐요. 던질 때마다 얼마나 빗나갔는지 자로 재고, 다음에는 빗나간 만큼의 절반만 힘이나 방향을 바꿔요. 열 번 던지며 빗나간 거리를 표에 적고, 줄어드는 모양을 그래프로 그려 보세요. 1986년 역전파 기록(E0010)이 '어떤 숫자를 얼마나 고칠지' 계산하는 방법이라는 점과 이어서 이야기해요.
이 낱말과 이어진 기록
출처로 확인한 AI 역사 속 장면이에요.
은닉층이 과제에 유용한 내부 표현을 스스로 학습함을 보여 다층 신경망 학습을 실용화