추론 인프라·서빙vLLM
Ray Direct Transport 기반 대규모 샤디드 가중치 전송 엔진 도입
Ray Direct Transport 기반 대규모 샤디드 가중치 전송 엔진 도입
왜 중요한가
멀티노드 모델 로딩·가중치 교체(RL 롤아웃)가 서빙 스택의 1급 문제로 승격
같은 주에 나온 조각08.23HK$800억(102억 달러) 신주 발행으로 풀스택 AI 투자 자금 조달보도08.21Fine-Tuned Lie Detectors Failed to Generalize공식 발표08.21UMG 등 v보도08.19Codex as a platform공식 발표