GPT-6 프롬프트 캐싱 개편
AIAI가 만든 글AI(Claude)가 출처를 읽고 쓴 기록이에요. 중요한 내용은 아래 출처에서 확인해 주세요.만드는 방법
GPT-6 프롬프트 캐싱 개편 — 캐시 유효 구간을 30분으로 늘리고 캐시 입력 토큰에 최대 90% 할인을 적용. 명시적 캐시 브레이크포인트, 대화 중간에 추론 강도를 바꿔도 캐시가 깨지지 않는 configuration_update, allowed_tools로 도구 목록이 바뀌어도 캐시를 유지하는 기능, 캐시 예열, 적중률·미스 원인을 보는 대시보드와 진단 도구를 함께 공개. 자사 제시 사례로 GitHub Copilot이 신규 처리 토큰을 50% 이상 줄였고, 한 파트너는 적중률 83%→91%로 올려 추론 비용을 36% 절감
왜 중요한가
장기 에이전트 루프의 과금이 캐시 설계에 달려 있다는 점을 API 표면으로 끌어올린 변화다. 도구 목록 변경과 추론 강도 조정을 캐시 무효화 사유에서 뺀 것은, 한 세션이 몇 시간씩 도구를 갈아 끼우며 도는 에이전트를 1급 사용 패턴으로 인정했다는 뜻이다
출처 — 1차 출처를 우선 확인하고, 2차 보도는 「보도」로 따로 표시해요
공식 발표openai.comhttps://openai.com/index/better-prompt-caching-for-gpt-6/2026년 40주차에 더한 기록이에요 · 그 주 보기
노선도에서 — ⑧ 추론 인프라·서빙 노선
- 앞 역DeepSeek-V4.1-Flash 공개
- 이 기록GPT-6 프롬프트 캐싱 개편
- 다음 역IBM, Granite Switch 4.1 공개