AI 인프라 소프트웨어Wanchao Liang 외 (Meta)
TorchTitan 발표
TorchTitan 발표 — 모듈형 3D 병렬과 탄력적 스케일링. 405B/512 GPU 3D에서 추가 30% 가속
왜 중요한가
Megatron-LM 대안으로 PyTorch 네이티브 학습 프레임워크가 성립한 시점. FSDP2·torch.compile·FP8이 한 스택으로 묶임
출처 — 1차 출처만 싣고, 직접 이동해 확인할 수 있어요
논문arxiv.orghttps://arxiv.org/abs/2410.065112026년 8월 24일에 더한 조각 · 그 주 보기
같은 주에 나온 조각10.12MMAD 벤치마크 공개논문10.10ABCI 3.0 발표공식 발표10.10GENIAC에서 AI 기반모델 개발 20건·데이터 활용 실증 3건 채택공식 발표10.08LightRAG 공개논문