총정리5부 안을 들여다보기DAY 46–55

5부 총정리

점 하나에서 내 폰까지 · 용어까지 · DAY 46-55

AI가 만든 글이 총정리는 AI(Claude)가 그 부의 수업과 기록을 바탕으로 썼어요. 자동 점검을 거쳐 올리고, 운영자가 모든 글을 읽지는 않아요.만드는 방법

5부는 AI 속을 열어 본 열 날이야. 점 하나의 계산에서 시작해 어텐션·임베딩·검색 보강·파인튜닝·사람 피드백을 지나, 그걸 돌리는 쇳덩이와 전기, 그리고 내 폰까지 왔어.

여기는 퀴즈도 실험도 없어. 새 용어는 처음 나올 때 한 문장으로 풀어 두니까 그대로 읽어 내려가면 돼.

DAY 46 · 신경망

점 하나는 곱하고 더하는 것밖에 못 해

신경망은 숫자를 주고받는 점이 층으로 쌓인 구조야. 점을 노드, 한 겹을 층이라고 불러. 점 하나는 들어온 숫자마다 가중치를 곱해 전부 더해. 이 값을 가중합이라고 해. 거기에 문턱 역할을 하는 함수를 한 번 통과시켜 다음 층으로 넘겨.

문턱 함수를 활성함수라고 해. 신호를 그대로 흘릴지, 꺾을지, 끊을지를 정하는 자리야. 활성함수가 없으면 층을 몇 개 쌓아도 결국 한 번 곱해 더한 것과 같아져. 곧게 비례하는 계산만 겹치면 아무리 겹쳐도 곧은 계산 하나로 줄어들기 때문이야.

처음 가중치는 아무 값이야. 답을 내 보고 틀린 만큼 거꾸로 되짚어 고쳐. 틀린 양을 뒤에서 앞으로 되돌려 가중치를 조금씩 고치는 방법을 역전파라고 해. 1986년에 널리 알려졌어. 이걸 수없이 되풀이하면, 남은 숫자들이 곧 배운 내용이야.

DAY 47 · 어텐션

시선은 나눠 갖는 거야

어텐션은 단어마다 질의·키·값 세 벌을 만들어 두고, 질의와 키를 맞춰 점수를 내는 계산이야. 그 점수를 합이 1인 몫으로 바꾸는 단계를 소프트맥스라고 해. 몫이라 총량이 정해져 있어 — 한쪽을 세게 보면 나머지는 반드시 약해져.

'그것'의 질의가 앞에 나온 어떤 명사의 키와 잘 맞으면 그 자리에 시선이 몰려. 값이 그 몫만큼 섞여 들어와서 문맥이 섞인 새 숫자 묶음이 만들어져. 같은 단어라도 문장이 다르면 다른 값이 나오는 이유가 이거야.

2014년 번역 연구가 처음 썼어. 긴 문장에서 멀리 있는 단어를 놓치는 문제를 풀려는 장치였지. 2017년 논문은 순서대로 읽는 부분을 아예 빼고 어텐션만 남겼어 — 트랜스포머야. 한꺼번에 보니 계산을 나눠 돌리기 쉬워졌고, 그래서 모델을 크게 키울 수 있었어.

DAY 48 · 뜻을 숫자로

뜻을 자리로 바꿔 놓는다

단어를 숫자 묶음으로 바꾼 값을 임베딩이라고 해. 묶음 하나에 수백에서 수천 개 숫자가 들어가. 학습 규칙은 간단해 — 주변에 같이 나오는 말이 비슷하면 숫자도 비슷하게 맞춘다는 거야. 사람이 뜻을 적어 주지 않아. 엄청난 양의 글을 읽으며 스스로 맞춰 가.

뜻이 자리가 되면 두 단어의 거리를 계산으로 잴 수 있어. 2013년 연구는 자리 사이의 방향까지 뜻을 담는다는 걸 보였어 — 왕에서 남자를 빼고 여자를 더하면 여왕 근처에 닿는다는 식으로. 방향이 관계를 담는다는 게 이 방식이 오래 쓰이는 이유야.

지금 모델은 단어를 통째로 쓰지 않고 토큰이라는 조각으로 잘라 써. 처음 보는 말도 조각으로 쪼개면 다룰 수 있어서 모르는 단어 문제가 많이 줄었어. 그래서 글자 수가 아니라 토큰 수로 길이를 세는 거야.

DAY 49 · 비슷한 것 찾기

글자가 아니라 뜻을 잰다

문장도 임베딩으로 바꿀 수 있어. 두 묶음 사이 각도를 재면 뜻이 얼마나 겹치는지 나와. 많이 쓰는 잣대가 코사인 유사도야 — 묶음의 크기는 빼고 방향만 비교해. 방향이 같으면 1에 가깝고, 상관없으면 0 근처로 떨어져.

'재밌어'와 '재미없어'는 글자가 거의 같지만 방향은 멀어. 거꾸로 겹치는 글자가 하나도 없어도 뜻이 같으면 가까워. 글자 겹침으로만 세는 옛 방식이 자주 틀리던 자리가 바로 이 둘이야.

2019년 연구는 두 문장이 같은 잣대에 놓이도록 따로 학습시키는 방법을 내놨어. 덕분에 글 조각 수백만 개를 미리 숫자로 바꿔 두고, 질문이 오면 가까운 것만 꺼내 쓸 수 있게 됐어. 이 꺼내 오기가 다음 날 배우는 책 펴놓고 답하기의 앞 절반이야.

DAY 50 · 책 펴놓고 답하기

외우기 대신 찾아서 펴 놓기

찾아온 글을 옆에 펴 두고 답하게 하는 방식을 검색 보강 생성이라고 해. 줄여서 RAG라고 부르지. 질문을 임베딩으로 바꿔 가까운 글 조각을 꺼내 오고, 그 조각을 질문과 함께 모델에 넣어. 모델은 외운 것 대신 눈앞의 글을 읽고 답해.

모르는 걸 외운 기억으로 메우려 할 때 지어내기가 생겨. 근거 글이 눈앞에 있으면 메울 자리가 줄고, 어디서 나온 말인지 같이 보여 줄 수 있어. 출처가 붙으니 읽는 사람이 직접 확인할 수도 있지.

모델을 다시 가르치지 않아도 되는 게 큰 장점이야 — 펴 놓는 글만 갈아 끼우면 답이 따라서 새로워져. 대신 찾아온 조각이 엉뚱하거나 틀리면 답도 같이 틀려. 그래서 실제로 공을 들이는 곳은 답하기보다 찾기 쪽이야.

DAY 51 · 따로 더 가르치기

다 큰 모델을 조금 다듬는다

크게 한 번 배운 모델을 기본 모델이라고 하고, 그 위에 필요한 일만 더 학습시키는 걸 파인튜닝이라고 해. 안에 든 숫자를 전부 고치는 게 아니라 아주 일부만 고치는 방식이 널리 쓰여. 학습을 처음부터 다시 하는 것과는 비용이 아예 다른 일이야.

2021년에 나온 LoRA는 원래 숫자를 얼려 두고, 옆에 작은 판 두 장을 덧붙여 그것만 학습해. 그 결과 고치는 숫자를 만분의 일까지 줄였어. 덧붙인 판만 갈아 끼우면 같은 기본 모델로 여러 일을 돌릴 수 있고.

파인튜닝이 센 자리는 말투·형식·일하는 방식이야. 새로 생긴 사실을 넣는 일은 앞에서 본 책 펴놓고 답하기가 맞아. 둘은 경쟁이 아니라 역할이 달라서, 실제로는 같이 쓰는 경우가 많아.

DAY 52 · 사람이 점수 매기기

정답 대신 어느 쪽이 더 나은지

같은 질문에 답을 여러 개 내게 하고 사람이 더 나은 쪽을 고르게 해. 이 기록을 선호 데이터라고 불러. 고른 기록으로 먼저 보상 모델을 만들어 — 답을 보면 사람이 몇 점 줄지 맞혀 보는 작은 모델이야. 그 점수를 올리는 쪽으로 본 모델을 다듬는 단계가 강화학습이야.

좋은 답은 하나로 적을 수 없어. '친절하게'나 '짧게'는 채점표로 만들기 어렵지. 그래서 점수를 적는 대신 둘 중 어느 쪽이 나은지만 물어. 사람이 훨씬 쉽게 답할 수 있는 질문이야. 모은 건 맞고 틀림이 아니라 사람의 취향이라는 말이 이 뜻이야.

2022년 연구에서, 이렇게 다듬은 작은 모델의 답을 사람들은 130배 넘게 큰 모델의 답보다 더 좋아했어. 크기를 키우는 것보다 다듬는 게 더 큰 차이를 낸 드문 사례야. 대신 누구의 취향을 모았느냐가 그대로 남아. 그래서 규칙을 글로 적어 두고 AI끼리 채점하게 하는 방법도 2022년에 나왔어.

DAY 53 · GPU

계산의 모양이 원래 같았다

그래픽카드(GPU)는 쉬운 계산을 동시에 아주 많이 하도록 만든 부품이야. 이걸 병렬 계산이라고 해. 화면의 점 수백만 개를 동시에 칠하려면 똑똑한 몇 명보다 단순한 수천 명이 필요했어. AI 학습의 속은 행렬 곱셈 — 쉬운 곱셈과 덧셈 수조 개를 동시에 하는 일이야.

학습에 많이 쓰는 카드 한 장 안에는 트랜지스터라는 작은 스위치가 약 800억 개 들어 있어. 그 한 장이 1초에 약 1,000조 번 계산해. 요즘 카드는 숫자를 거친 눈금으로 다뤄 더 많이 계산하는 길도 함께 써.

라마 3는 카드 1만 6천 장을 한 덩어리로 묶어 54일을 돌려서 만들었어. 이렇게 묶은 덩어리를 클러스터라고 하고, 카드 사이를 잇는 선의 속도가 성능을 가르기도 해. 2024년에는 10만 장 규모를 묶었다고 밝힌 곳도 나왔어.

DAY 54 · 데이터센터와 전기

한 번은 작고, 다 더하면 커

2025년에 공개된 측정에서, 글로 한 번 물었을 때 전기 사용량 중간값은 0.24와트시였어. TV를 9초 켜 두는 정도라, 한 번만 보면 작은 양이야. 다만 이건 한 회사가 자사 기준으로 밝힌 값이고, 어디까지 포함했는지에 따라 값이 달라져.

전 세계 데이터센터가 2024년에 쓴 전기는 415테라와트시 — 전 세계 전기의 약 1.5%야. 국제에너지기구는 2030년에 945테라와트시로 두 배가 넘을 거라고 봤어. 작아 보이는 1.5%지만, 6년 만에 두 배가 되는 항목은 흔하지 않아.

한 번 값은 빠르게 작아지고 있어. 같은 답을 더 적은 계산으로 내는 쪽으로 계속 바뀌니까. 그런데 질문 수가 더 빠르게 늘면 합계는 계속 커져. 숫자를 볼 때는 한 번과 합계를 섞지 않는 것부터 챙겨야 해.

DAY 55 · 내 폰 안의 AI

조각으로 나눠 쓴다

요즘 폰 안에는 숫자 30억 개쯤 되는 작은 모델이 들어 있어. 폰 안에서 도는 걸 온디바이스라고 해. 인터넷이 끊겨도 요약하고 다듬고 알림을 정리할 수 있어. 서버에 있는 모델과는 크기가 수십에서 수백 배 차이 나.

큰 모델의 숫자를 더 거친 눈금으로 줄여 담는 양자화를 써. 자리를 줄이면 속도도 올라가. 메모리가 모자랄 땐 필요한 부분만 그때그때 불러 쓰는 방법도 같이 쓰여. 그래도 작아진 만큼 못 하는 일이 생기니까, 전부를 폰에 넣지는 않아.

폰이 먼저 해 보고 버거운 조각만 골라 밖으로 내보내는 방식이 기본이야. 안에서 끝내면 빠르고, 전기도 덜 들고, 내 글이 밖으로 안 나가. 앞에서 본 그 건물이 필요한 일은 여전히 남아. 둘을 섞어 쓰는 게 지금의 답이야.

5부를 한 줄로

열 날을 꿰면 줄기 하나가 보여 — 안쪽은 마법이 아니라 계산이고, 그 계산을 어떻게 겨누고 어떻게 돌리느냐가 전부다. 곱하고 더하기(DAY 46)에서 어디를 볼지 정하기(DAY 47), 뜻을 자리로 바꾸기(DAY 48–49), 찾아서 펴 놓기(DAY 50), 다듬기(DAY 51–52)까지가 어떻게 겨누느냐이고, 쇳덩이와 전기와 내 폰(DAY 53–55)이 어떻게 돌리느냐야.

6부에서는 앞으로를 봐. 사람만큼 하는 AI가 정말 오는지, 그 말을 두고 왜 다투는지 볼 거야.

더 알아보기

Deep learning (Nature, 2015) — 딥러닝을 만든 세 사람이 직접 쓴 요약 글nature.com/articles/nature14539
Learning representations by back-propagating errors (1986) — 틀린 만큼 무게를 고치는 방법을 널리 알린 논문nature.com/articles/323533a0
McCulloch·Pitts, A logical calculus… (1943) — 신경세포를 계산 소자로 본 첫 논문link.springer.com/article/10.1007/BF02478259
Neural Machine Translation by Jointly Learning to Align and Translate (2014) — 어텐션이 처음 쓰인 번역 연구arxiv.org/abs/1409.0473
Attention Is All You Need (2017) — 순서대로 읽기를 빼고 어텐션만 남긴 논문arxiv.org/abs/1706.03762
Efficient Estimation of Word Representations (2013) — 단어를 숫자 묶음으로 바꾸는 방법을 널리 퍼뜨린 연구arxiv.org/abs/1301.3781
Sentence-BERT (2019) — 문장끼리 거리를 재기 좋게 숫자 묶음을 만드는 방법arxiv.org/abs/1908.10084
Dense Passage Retrieval (2020) — 글자 맞추기 대신 뜻의 자리로 글을 찾는 방법arxiv.org/abs/2004.04906
Retrieval-Augmented Generation (2020) — 찾아온 글을 펴 놓고 답하게 한 연구arxiv.org/abs/2005.11401
LoRA (2021) — 고치는 숫자를 만분의 일까지 줄인 방법arxiv.org/abs/2106.09685
Training language models to follow instructions with human feedback (2022) — 사람이 고른 기록으로 모델을 다듬은 연구arxiv.org/abs/2203.02155
NVIDIA Hopper Architecture In-Depth (2022) — 학습에 많이 쓰는 카드 속을 만든 곳이 직접 설명한 글developer.nvidia.com/blog/nvidia-hopper-architectur…
The Llama 3 Herd of Models (2024) — 카드 1만 6천 장으로 54일을 돌린 기록arxiv.org/abs/2407.21783
Measuring the environmental impact of AI inference (Google, 2025) — 한 번 물을 때 드는 전기를 자사 기준으로 측정한 글cloud.google.com/blog/products/infrastructure/measu…
Energy and AI — Executive summary (IEA, 2025) — 데이터센터 전기를 나라 단위로 정리한 공식 요약iea.org/reports/energy-and-ai/executive-summary
Introducing Apple's On-Device and Server Foundation Models (2024) — 폰 안 모델과 서버 모델을 나눠 쓴다고 밝힌 공식 글machinelearning.apple.com/research/introducing-appl…
A Neural Probabilistic Language Model (2003) — 단어를 숫자 묶음으로 바꾸는 생각의 출발점jmlr.org/papers/v3/bengio03a.html
QLoRA (2023) — 숫자를 거친 눈금으로 줄인 채로 다듬는 방법arxiv.org/abs/2305.14314
Constitutional AI (2022) — 규칙을 글로 적어 두고 AI끼리 채점하게 한 연구arxiv.org/abs/2212.08073
Colossus (xAI, 2024) — 카드 10만 장 규모를 묶었다고 밝힌 공개 자료x.ai/colossus
Gemma 3n developer guide (Google, 2025) — 폰 안에서 도는 작은 모델을 다루는 공식 안내developers.googleblog.com/en/introducing-gemma-3n-d…