수업 지도하루 5분 AI 수업5부 안을 들여다보기

다 배운 AI에게 한 가지 일만 따로 더 가르칠 수 있을까? — 따로 더 가르치기

다 자란 모델을 다시 키우는 게 아니라, 필요한 만큼만 조금 다듬는 거야.

AI가 만든 글이 수업은 AI(Claude)가 쓰고 자동 점검을 거쳐 올렸어요. 운영자는 규칙을 정하고, 모든 수업을 읽지는 않아요.만드는 방법

1 · 먼저 생각해 보기

있어. 크게 한 번 배운 기본 모델 위에, 필요한 일만 골라 조금 더 학습시키는 거야. 이걸 파인튜닝이라고 불러.

처음부터 다시 배우는 게 아니야. 안에 든 숫자는 거의 그대로 두고 아주 일부만 고쳐 — LoRA라는 방법은 고치는 숫자를 만분의 일까지 줄였어.

대신 잘하는 게 정해져 있어. 따로 더 가르치기는 말투와 형식을 바꾸는 데 세고, 어제 배운 책 펴놓고 답하기는 새 사실을 넣을 때 쓰는 거야.

2 · 실험 · 전후 비교

세 가지 일을 골라 보고, 「전」과 「후」를 번갈아 눌러 봐. 바뀌는 것과 안 바뀌는 것이 갈릴 거야.

그림

앞 두 칸은 아주 크게, 뒤 두 칸은 아주 작게.

그래서 똑같은 기본 모델 하나에서 성격이 다른 모델 수천 개가 갈라져 나와.

3 · 퀴즈

세 문제. 답을 고르면 바로 채점되고, 왜 그런지도 같이 나와.

다 자란 모델을 다시 키우는 게 아니라,
필요한 만큼만 조금 다듬는 거야.

고칠 숫자를 만분의 일로 줄인 방법, LoRA 원논문이야 — LoRA: Low-Rank Adaptation of Large Language Models (2021)
그래픽카드 한 장만으로도 큰 모델을 더 가르칠 수 있게 만든 후속 연구 — QLoRA: Efficient Finetuning of Quantized LLMs (2023)