대화가 시작되기 전에 AI에게 미리 주는 기본 지시문이에요.
시스템 프롬프트는 사용자가 말을 걸기 전에 AI 앱을 만든 쪽이 미리 넣어 두는 지시문이에요. AI의 역할, 말투, 지켜야 할 규칙, 쓸 수 있는 도구 같은 걸 적어요. 보통 사용자 눈에는 보이지 않지만, 대화 내내 컨텍스트 창 맨 앞에 함께 들어가요.
같은 모델이라도 시스템 프롬프트가 다르면 숙제 도우미가 되기도 하고 영어 회화 연습 상대가 되기도 해요. 많은 AI 서비스에서 '항상 짧게 답해 줘' 같은 기본 지시를 저장해 두는 기능도 비슷한 역할을 해요.
다만 비밀 금고는 아니에요. 2023년에는 교묘한 질문으로 한 검색 챗봇의 숨은 지시문이 밖으로 새어 나온 일이 있었어요. 시스템 프롬프트만으로 AI를 완벽하게 지킬 수는 없어요.
비유로 보면
담임 선생님이 대신 들어올 선생님께 쪽지를 남긴다고 해 봐요. '수업 전에 출석을 부르고, 숙제 검사를 꼭 해 주세요.' 학생들은 쪽지를 못 보지만, 그날 수업은 쪽지대로 흘러가요.
예를 들면
'너는 중학생을 돕는 수학 튜터야, 답보다 힌트를 먼저 줘' 같은 문장이 시스템 프롬프트의 예예요.
자주 하는 오해
오해AI는 내가 입력한 글만 보고 답한다.
실제로는시스템 프롬프트 말고도 오늘 날짜, 검색해 온 글, 앱이 저장해 둔 내 정보 같은 것이 함께 들어가기도 해요. 같은 질문에 친구와 다른 답을 받았다면, 이렇게 보이지 않게 붙은 내용이 달라서일 수 있어요.
오해시스템 프롬프트만 잘 쓰면 AI를 완벽하게 지킬 수 있다.
실제로는2023년 케빈 리우는 '앞의 지시는 무시해' 같은 말로 마이크로소프트 빙 챗의 숨은 지시문과 내부 이름 'Sydney'를 끌어냈어요. 그래서 비밀번호처럼 새면 안 되는 정보는 지시문에 아예 넣지 않는 게 기본이에요.
수업에서 써 보기
선생님은 수업 시작에, 학생은 혼자 공부할 때 써 보세요.
- 질문
- 같은 모델이 숙제 도우미도, 영어 회화 상대도 될 수 있는 건 무엇 때문일까요?
- 활동
- 모둠마다 '중학생 수학 튜터', '도서관 안내원', '역사 퀴즈 진행자' 가운데 하나를 골라 시스템 프롬프트를 다섯 줄 안으로 써 봐요(역할, 말투, 꼭 지킬 규칙, 하지 말 것). 다른 모둠이 그 지시문을 모른 채 질문을 던지고, 답만 보고 어떤 지시문이었을지 맞혀 봐요. 그다음 '이 지시문이 새어 나가면 무엇이 곤란할까'도 함께 이야기해요.
이 낱말과 이어진 기록
출처로 확인한 AI 역사 속 장면이에요.
실서비스에서 시스템 프롬프트가 방어선이 되지 못함을 공개 입증