AI가 사실이 아닌 내용을 그럴듯하고 자신 있게 지어내는 현상이에요.
환각은 AI가 없는 사실, 틀린 숫자, 존재하지 않는 책이나 논문을 진짜처럼 말하는 현상이에요. AI가 일부러 거짓말하는 건 아니에요. 사실을 찾아보는 대신 그럴듯한 다음 토큰을 고르다 보니, 틀린 내용도 매끄럽게 이어 붙일 수 있는 거예요.
학습한 글에 없거나 드문 내용, 최근 소식, 정확한 숫자와 출처를 물을 때 특히 잘 생겨요. 말투가 자신 있다고 맞는 답이라는 뜻은 아니에요.
줄이는 방법도 있어요. 자료를 찾아 옆에 펴 두고 답하게 하는 RAG, 계산기나 검색 같은 도구 쓰기가 대표적이에요. 그래도 완전히 없애기는 어려워서, 중요한 내용은 다른 출처로 직접 확인하는 게 가장 확실해요.
비유로 보면
공부를 안 한 채 서술형 시험을 보는 학생을 떠올려 보세요. 빈칸으로 내기 싫어서 그럴듯한 문장으로 답안을 꽉 채우지만, 내용은 틀렸을 수 있어요. 글씨가 반듯하다고 정답이 되는 건 아니죠.
예를 들면
'이 주장을 뒷받침하는 논문 알려 줘'라고 하면, 있을 법한 제목과 저자 이름을 지어낼 수 있어요.
자주 하는 오해
오해AI가 틀린 말을 하는 건 일부러 거짓말을 하는 것이다.
실제로는거짓말은 진짜를 알면서 숨기는 건데, AI에는 '내가 이걸 정말 아나?'를 따로 확인하는 장치가 기본으로 들어 있지 않아요. 질문에 '확실하지 않으면 모른다고 말해 줘'를 붙이면 지어내는 일이 줄기도 하지만, 없어지지는 않아요.
오해말투가 자신 있고 출처까지 대면 믿어도 된다.
실제로는출처를 받으면 제목을 그대로 검색해 실제로 있는지, 링크가 열리는지, 그 글에 정말 그 내용이 있는지 세 가지를 확인해 보세요. 진짜 책을 대면서 그 책에 없는 내용을 붙이는 경우도 있어요.
수업에서 써 보기
선생님은 수업 시작에, 학생은 혼자 공부할 때 써 보세요.
- 질문
- AI의 답에서 '환각일지도 모르는 부분'을 어떻게 골라낼 수 있을까요?
- 활동
- AI에게 우리 학교가 있는 지역의 역사나 최근 소식처럼 학습한 글에 드물 법한 질문을 하나 하고, 답에서 숫자·날짜·이름·출처를 형광펜으로 표시해요. 표시한 것마다 다른 출처(교과서, 공식 누리집, 이 사이트의 기록처럼 출처가 달린 자료)로 하나씩 확인해 맞음·틀림·못 찾음으로 나눠 봐요. 결과는 「이 말 맞아?」로 연도와 날짜를 한 번 더 맞춰 볼 수도 있어요.