RAG·파인튜닝·컨텍스트

범용 챗봇이 규제 의료 기록 시스템에 직접 연결되는 단계. 컨텍스트 연결(RAG·커넥터)의 전선이 공개 웹에서 규제 데이터 영역으로 넘어갔고, 안전성 근거는 아직 벤더 자체 평가에 의존

생성 모델을 검색기로 재활용하던 ColPali 계보 대신 처음부터 인코더로 설계한 단일 타워로 되돌아간 갈래 — 멀티모달 검색에서 '인코더 전용'이 다시 유효하다는 주장. 저자 자체 보고로 동일 해상도에서 ColModernVBERT 대비 약 2배 인코딩 처리량, 계층적 토큰 풀링과 비대칭 양자화로 255배 압축에서도 기준 성능 95% 이상 유지.

그래프 단일 구조에 기대던 에이전트 장기기억을 타임라인·그래프·문서 삼중 구조와 출처 추적(provenance)·인용 잠금으로 재편한 갈래. 저자 자체 보고로 LongMemEval 95.60%·LoCoMo 93.60%이며, 8개 언어모델에 걸쳐 질의당 비용이 약 30배 차이 나는데도 정확도 편차는 3.4%포인트에 그쳐 성능을 가르는 것은 모델 선택이 아니라 기억 아키텍처라고 주장.

Claude Code 요금은 토큰으로 표시되지만 실제 비용은 GPU 추론 시간이고, 토큰 단가는 모델 크기·입력/출력 방향·캐시 여부로 정해진다. 입력(프리필)은 병렬 처리되지만 출력(디코드)은 순차 생성이라 출력 단가가 약 5배 비싸고, 보이지 않는

검색 시점에 그래프를 조회하는 GraphRAG 계보와 달리 그래프를 모델 가중치로 미리 컴파일해 두는 파라메트릭 지식그래프 갈래를 열면서, 동시에 그 갈래의 병목이 저장이 아니라 어댑터 선택(라우팅)임을 못박았다 — 의미 유사도를 넘어서는 어댑터 선택 기제를 찾는 것이 남은 과제라고 저자들이 결론. 수치는 저자 자체 보고.

에이전틱 시스템의 지식그래프를 '추출된 트리플의 평평한 저장소'에서 누가 사실을 소유하는지·왜 채택됐는지·어떻게 쓰여야 하는지를 기록하는 거버넌스 대상으로 재정의한 갈래. 저자 자체 보고로 SciERC에서 평면 삽입 대비 strict 트리플 F1 47%·mapped 트리플 F1 51% 개선, 120개 트리플 블라인드 검토에서 거버넌스 통과 트리플이 더 자주 출처 근거를 가졌고, MuSiQue에서 Microsoft GraphRAG 대비 exact-match 9.0포인트·token F1 11.2포인트 우위.

흩어져 있던 컨텍스트 압축 연구를 하나의 이론틀로 정리

청킹이라는 RAG 전처리 단계를 임베딩 모델 안으로 흡수하려는 시도

Context Rot을 검색 에이전트 맥락에서 정량화하고 근본 해결이 어렵다는 것도 함께 보임

검색 지표 중심 평가가 그래프 기법의 이점을 과대평가해 왔다는 반성의 주류화

롱컨텍스트 한계가 안전 감시 성능까지 무너뜨림을 보인 실증

Search-R1 계열의 후속. 검색 횟수 자체를 학습 대상으로 삼음

에이전틱 검색이 두 방식의 격차를 좁힘을 보여 2024년 GraphRAG 논쟁을 갱신

에이전틱 RAG의 첫 체계적 분류. 후속 연구의 기준점

에이전틱 RAG가 항상 낫지는 않다는 실증. 설계 선택의 근거가 되는 반증형 결과

컨텍스트 관리 주체가 파이프라인에서 에이전트 자신으로 옮겨가는 흐름

캐시 상품화 이후 처음으로 3사를 같은 조건에서 비교한 실측

하네스를 운영체제로 보는 정의 갈래의 1차 출처

무엇을 기억하고 버릴지를 사람이 정하지 않고 학습으로 정한 사례

롱컨텍스트 한계를 검색이 아니라 아키텍처로 우회하려는 노선

툴 정의가 컨텍스트를 잠식하는 문제에 대한 구조적 해법

10배 미만 압축에서 OCR 정밀도 97%, 20배에서 약 60%. 이미지를 컨텍스트 압축 매체로 쓰는 발상 전환

미세조정 없이 컨텍스트를 줄여 소형 모델도 장기 에이전트로 쓸 수 있게 하는 방향

compaction·structured note-taking·sub-agent·just-in-time retrieval 4패턴 명명

컨텍스트 관리가 API 기본 기능으로 편입

실제 운영 에이전트의 컨텍스트 엔지니어링 원칙을 공개한 1차 기록

컨텍스트 로트를 업계 용어로 정착시킨 보고서

그래프가 언제 도움이 되는가를 벤치마크로 검증하는 국면 전환점 — 2026년 회의론의 방법론적 선행

에이전트 장기 기억 상용 제품이 그래프 표현을 핵심 확장으로 채택 — 그래프 엔지니어링이 RAG 를 넘어 메모리 계층으로 확산

검색 전략을 프롬프트가 아닌 학습으로 획득

needle-in-a-haystack 성적이 롱컨텍스트 능력을 과대평가함을 보임

시간적 지식그래프를 에이전트 메모리의 1급 설계 요소로 내세운 대표 사례

agentic retrieval이 독립 범주로 정착한 지표

agentic retrieval을 추론 모델 내부 루프로 통합

롱컨텍스트 시대에 RAG 자체를 생략하는 갈래

GraphRAG 원저자들이 스스로 비용 문제를 인정하고 지연 그래프 구축으로 방향을 튼 사건

Microsoft GraphRAG 고비용 인덱싱에 대한 오픈소스 진영의 대표적 경량 대안

공식 구현이 무겁다는 커뮤니티 불만이 해킹 가능한 초경량 재구현으로 표출

3사 중 마지막으로 프리픽스 캐시를 상품화

청크 앞에 LLM 생성 설명 50~100토큰을 붙여 검색 실패율 35% 감소, BM25 결합 49%, 리랭킹까지 67%

중국 빅테크가 GraphRAG 계보를 전문 도메인(금융·의료)용으로 산업화한 사례

청킹으로 문맥이 끊기는 문제를 임베딩 순서 변경으로 해결

난립하던 변종들을 하나의 분류 체계로 묶어 그래프 기반 RAG를 독립 연구 분야로 공식화

캐시 경제성이 가격표로 노출되어 이후 에이전트 경제성의 핵심 변수가 됨

프리픽스 캐시의 상품화, 서빙 내부 최적화가 API 가격표로 노출

롱컨텍스트 vs RAG 논쟁을 비용·성능 트레이드오프로 정리

연구 기법이 널리 복제 가능한 구현체로 확산된 시점

초장문 컨텍스트가 대기자 명단을 벗어나 일반 개발자 선택지가 됨

OCR·파싱 파이프라인을 생략한 시각 문서 검색 계보

RAG와 롱컨텍스트를 대립이 아닌 역할 재배분으로 다룸

GraphRAG 계보의 다중 홉 검색 갈래

국소 검색으로는 답할 수 없는 전역 요약 질의를 다룸

그래프 DB 벤더가 GraphRAG를 상품 카테고리로 채택한 초기 사례 — 학계 용어의 상용 스택 편입 시점

광고된 컨텍스트 길이와 실효 길이의 격차를 표준화된 방식으로 노출

컨텍스트 길이가 자릿수 단위로 도약하며 RAG는 죽었다 논쟁을 촉발

벡터 유사도 검색 밖의 구조화 인덱스 계보

청크 단위 검색의 대안으로 계층 요약 인덱스 제시

검색 실패를 전제로 한 방어적 RAG 설계

커뮤니티 테스트가 사실상 표준 평가로 정착, 선언된 길이와 실제 회상 성능이 다르다는 인식 확립

컨텍스트 길이 경쟁이 20만 토큰대로 진입

직접 만든 RAG 파이프라인이 플랫폼 기본 기능으로 흡수되기 시작한 분기점

검색을 고정 파이프라인에서 모델 결정으로 옮긴 전환점

컨텍스트 밖 메모리 관리 계보(이후 memory tool 등)의 원형

롱컨텍스트를 넣기만 하면 된다는 가정에 대한 첫 대규모 반증

4비트 NF4·이중 양자화·페이지드 옵티마이저로 65B를 48GB GPU 한 장에서 파인튜닝

롱 컨텍스트 경쟁의 출발 신호탄, RAG 없이 문서를 통째로 넣는 선택지의 현실화

3주 사이 세 건의 대형 라운드로 LLM의 장기 기억 서사가 자본시장에서 정점

랩이 직접 검색 증강을 제품 표면에 올린 첫 사례, 벡터DB 생태계에 직접 수요 신호

LoRA·Prefix/Prompt Tuning을 몇 줄로 연결해 소비자용 GPU 파인튜닝 대중화의 기반

LangChain 다음 달 등장해 RAG 인덱싱 계층의 또 다른 표준 어휘를 형성

로더-청킹-임베딩-벡터스토어-리트리버라는 RAG 표준 어휘를 확산

late interaction을 실용 규모 인덱스로 끌어내린 후속

가중치를 동결하고 저랭크 행렬만 학습해 GPT-3 175B 기준 학습 파라미터를 1만분의 1로, 추론 지연 증가 없음

파라메트릭 메모리와 논파라메트릭 메모리를 결합한 검색 증강 생성의 정본

단일 벡터 검색과 구분되는 late interaction 계보의 출발점