AI는 왜 방금 한 말도 잊어버릴까? — 기억의 한계
중요한 말은 한 번 더 해주자.
AIAI가 만든 글이 수업은 AI(Claude)가 쓰고 자동 점검을 거쳐 올렸어요. 운영자는 규칙을 정하고, 모든 수업을 읽지는 않아요.만드는 방법
1 · 먼저 생각해 보기
AI는 대화를 뇌처럼 저장하지 않고, 매번 지금까지의 대화 전체를 다시 통째로 읽어 들여서 답해.
이 한 번에 읽을 수 있는 분량(컨텍스트 길이)에는 한계가 있어서, 대화가 길어지면 앞부분이 밀린다.
그래서 정말 중요한 정보는 대화 뒷부분에서 다시 짚어주는 것이 AI와 사람 모두에게 도움이 돼.
2 · 실험 · 컨텍스트 창 추적기
직접 해보기 — 컨텍스트 창 추적기
대화가 이어질수록 오래된 메시지가 어떻게 밀려나는지 직접 보자.
슬롯은 4개뿐이야. 대화가 이어질수록 오래된 것부터 밀려나. 밀려난 걸 다시 언급하면 다시 들어옵.
지금 창(컨텍스트) 안
창 밖으로 밀려난 메시지 (클릭하면 다시 언급)
그림
그림 한 장으로
창은 고정된 크기다. 새 메시지가 들어오면 가장 오래된 게 밀려난다.
3 · 퀴즈
확인해보기
세 문제. 답을 고르면 바로 채점되고, 왜 그런지도 같이 나와.
오늘의 한 줄
오늘의 한 줄
중요한 말은
한 번 더 해주자.
더 알아보기
- AI가 한 번에 읽을 수 있는 길이를 컸텍스트 길이(context length)라고 부르고, 이를 늘리려는 연구가 활발해 — Lost in the Middle: How Language Models Use Long Contexts