강화학습 뜻 — 해 보고 보상을 받으며, 보상이 큰 쪽으로 행동을 고쳐 가며 배우는 방법 · 5분 용어

해 보고 보상을 받으며, 보상이 큰 쪽으로 행동을 고쳐 가며 배우는 방법이에요.

강화학습은 정답을 알려 주는 대신, 행동한 결과에 점수(보상)를 줘서 배우게 하는 방법이에요. AI는 이리저리 시도해 보다가 보상이 큰 행동은 더 자주, 손해가 난 행동은 덜 하도록 스스로 전략을 고쳐요.

게임처럼 이기고 지는 게 분명한 곳에서 특히 잘 통해요. 2016년 이세돌 9단을 이긴 알파고도 강화학습을 썼어요. 요즘은 대형 언어 모델을 다듬을 때도 써요. 사람이 더 좋다고 고른 답에 보상을 주는 RLHF, 정답을 확인할 수 있는 수학 문제 같은 과제로 풀이 실력을 키우는 추론 모델 학습이 그 예예요.

비유로 보면

새 게임을 설명 없이 시작했다고 해 봐요. 이것저것 눌러 보다가 점수가 오르는 동작은 기억하고, 목숨을 잃는 동작은 피하게 되죠. 강화학습은 이 '해 보고 배우기'를 수백만 판 반복하는 거예요.

예를 들면

2013년, 옛날 비디오 게임 화면의 픽셀만 보고 점수 올리는 법을 스스로 익힌 AI가 발표됐어요.

자주 하는 오해

오해강화학습은 정답을 알려 주며 가르치는 방법이다.
실제로는정답 대신 점수만 주기 때문에, 점수를 잘못 정하면 엉뚱한 요령을 배워요. 보트 경주 게임에서 결승선으로 가는 대신 같은 자리를 빙글빙글 돌며 점수 아이템만 모은 AI 사례가 유명해요.
오해강화학습은 게임에서만 쓰인다.
실제로는로봇이 넘어져 가며 걷는 법을 익히는 데도 쓰여요. 2025년에는 사람이 써 준 풀이 없이 강화학습만으로 언어 모델의 추론 실력을 끌어냈다는 DeepSeek-R1 논문이 정식 심사를 거쳐 학술지 Nature에 실렸어요.

수업에서 써 보기

선생님은 수업 시작에, 학생은 혼자 공부할 때 써 보세요.

질문: 보상을 잘못 정하면 AI는 어떤 엉뚱한 전략을 배울까요?
활동: '눈 가리고 보물찾기'를 해 봐요. 한 사람이 눈을 가리고 교실 안 보물을 향해 움직이고, 다른 친구들은 방향을 말하지 않고 '더워(+1)·차가워(-1)' 점수만 불러 줘요. 세 판을 하며 걸음 수를 적고, 점수를 '보물에 닿을 때만 +10'으로 바꾸면 어떻게 달라지는지도 해 봐요. 보상 주는 방식이 배우는 속도를 어떻게 바꾸는지 이야기해요.