관련 자료를 먼저 찾아 와서, 그걸 근거로 답하게 하는 방법이에요.
RAG는 '검색 증강 생성'의 영어 약자예요. AI가 외운 것만으로 답하는 대신, 질문과 관련된 글을 먼저 찾아 와서 함께 읽고 답하게 해요. 2020년 페이스북 AI 연구팀과 대학 연구자들이 낸 논문에서 이 이름이 붙었어요.
보통 자료를 작은 조각으로 나눠 임베딩으로 바꿔 두고, 질문과 뜻이 가까운 조각을 꺼내 와 프롬프트에 붙여요. 모델을 다시 학습시키지 않아도 자료만 바꾸면 새 소식이나 학교 공지 같은 내 자료로도 답할 수 있고, 출처를 밝히기도 쉬워요.
환각을 줄이는 데 도움이 돼요. 하지만 찾아온 글이 틀리거나 엉뚱하면 답도 같이 틀려요.
비유로 보면
외워서 보는 시험과 책을 펴 놓고 보는 오픈북 시험의 차이예요. 오픈북이면 기억이 흐릿해도 책에서 찾아 근거를 대며 답할 수 있죠. 다만 엉뚱한 쪽을 펴면 답도 엉뚱해져요.
예를 들면
학교 축제 안내문을 자료로 넣어 두면, '부스 신청 마감이 언제야?'에 안내문을 근거로 답해요.
자주 하는 오해
오해RAG를 쓰면 AI가 틀릴 일이 없다.
실제로는알맞은 자료를 찾아 와도 AI가 그 글을 잘못 읽거나, 자료에 없는 말을 슬쩍 보태기도 해요. 답 옆에 붙은 출처를 눌러 그 문장이 정말 거기 있는지 확인하는 습관이 좋아요.
오해새 자료로 답하게 하려면 모델을 다시 학습시켜야 한다.
실제로는2020년 RAG 원 논문은 모델 속 숫자에 담긴 기억과, 따로 찾아볼 수 있는 문서 묶음이라는 두 기억을 한데 묶었어요. 새 소식이 생기면 문서 묶음 쪽만 갈아 끼우면 되고, 모델의 숫자는 손대지 않아요.
수업에서 써 보기
선생님은 수업 시작에, 학생은 혼자 공부할 때 써 보세요.
- 질문
- AI가 '어느 쪽을 펼쳤는지' 보여 주면 우리는 무엇을 더 확인할 수 있을까요?
- 활동
- 학교 축제 안내문 같은 짧은 자료를 다섯 조각으로 잘라 번호를 붙여요. 친구들이 질문을 하나씩 내면, 한 사람이 '사서' 역할을 맡아 가장 관련 있는 조각 하나를 골라 오고, 다른 사람은 그 조각만 보고 답해요. 사서가 엉뚱한 조각을 골랐을 때 답이 어떻게 되는지 보고, 답 옆에 조각 번호(출처)를 적는 게 왜 좋은지 이야기해요. RAG라는 이름이 붙은 2020년 기록(E0107)도 열어 보세요.
이 낱말과 이어진 기록
출처로 확인한 AI 역사 속 장면이에요.