GPU 뜻 — 단순한 계산을 한꺼번에 아주 많이 해내는, AI 학습의 중심 칩 · 5분 용어

단순한 계산을 한꺼번에 아주 많이 해내는, AI 학습의 중심 칩이에요.

GPU는 원래 게임 화면의 점 수백만 개를 동시에 칠하려고 만든 그래픽카드의 칩이에요. 안에 작은 계산 장치가 수천 개 들어 있어서, 쉬운 계산을 잘게 나눠 한꺼번에 처리하는 데 강해요. AI 학습도 곱하고 더하는 단순한 계산을 엄청나게 많이 하는 일이라 GPU와 딱 맞았어요.

2000년대 중반부터 GPU로 신경망을 훨씬 빠르게 학습시키는 연구가 나왔고, 2012년 이미지넷 대회 우승팀도 그래픽카드 두 장으로 학습했어요. 지금 큰 AI 모델은 GPU나 비슷한 AI 전용 칩 수천~수만 개를 데이터센터에 묶어 몇 주에서 몇 달씩 학습해요. 그래서 GPU는 값비싸고 구하기 어려운 부품이 됐어요.

비유로 보면

수학 문제 1만 개를 풀어야 한다고 해 봐요. 똑똑한 친구 몇 명이 하나씩 푸는 것보다, 학생 수천 명이 몇 문제씩 나눠 동시에 푸는 게 훨씬 빠르죠. CPU가 똑똑한 친구 몇 명이라면, GPU는 그 수천 명의 학생이에요.

예를 들면

메타는 라마 3를 학습할 때 GPU를 최대 1만 6천 장까지 한데 묶어 썼다고 밝혔어요.

자주 하는 오해

오해GPU는 처음부터 AI를 위해 만든 칩이다.
실제로는2007년 엔비디아는 GPU를 그래픽 말고 다른 계산에도 훨씬 쉽게 쓸 수 있게 해 주는 CUDA를 내놓았어요. 그 뒤 연구자들이 신경망 학습에 GPU를 본격적으로 빌려 쓰게 됐으니, 게임용 칩이 AI의 중심이 된 건 '다른 용도 찾기'의 결과예요.

수업에서 써 보기

선생님은 수업 시작에, 학생은 혼자 공부할 때 써 보세요.

질문: 왜 '똑똑한 몇 명'보다 '수천 명의 학생'이 AI 학습에 더 맞을까요?
활동: 한 자리 덧셈 문제 100개를 준비해, 한 번은 두 명이 나눠 풀고 한 번은 반 전체가 몇 문제씩 나눠 풀어 걸린 시간을 재요. 그다음 '앞 문제의 답을 알아야 풀 수 있는 문제'를 섞어 다시 해 보고, 나눠 풀기가 언제 잘 통하고 언제 막히는지 이야기해요. CUDA 기록(E0021)을 열어 GPU를 계산에 쓰는 길이 언제 열렸는지도 확인해요.