RAG·파인튜닝·컨텍스트Microsoft (Edward J. Hu 외)
LoRA
LoRA
왜 중요한가
가중치를 동결하고 저랭크 행렬만 학습해 GPT-3 175B 기준 학습 파라미터를 1만분의 1로, 추론 지연 증가 없음
출처 — 1차 출처만 싣고, 직접 이동해 확인할 수 있어요
논문arxiv.orghttps://arxiv.org/abs/2106.096852026년 8월 24일에 더한 조각 · 그 주 보기
LoRA
가중치를 동결하고 저랭크 행렬만 학습해 GPT-3 175B 기준 학습 파라미터를 1만분의 1로, 추론 지연 증가 없음