한국어EN
추론 인프라·서빙vLLM·AMD·Embedded LLMvLLMAMD발언·성명

AMD Instinct MI355X에서 MiniMax M3를 최적화한 성능 엔지니어링 결과를 공개함

AI가 만든 글AI(Claude)가 출처를 읽고 쓴 기록이에요. 중요한 내용은 아래 출처에서 확인해 주세요.만드는 방법

AMD Instinct MI355X에서 MiniMax M3를 최적화한 성능 엔지니어링 결과를 공개함. 자사 주장으로 MXFP8 동시성 32에서 3.14배(GPU당 342.4 tok/s), 동시성 128에서 2.09배(623.7 tok/s), MXFP4(TP2/EP1)에서 4.45배(943.5 tok/s) 가속을 달성했고 Prefill/Decode 분리 구성에서 총 6,370.5 tok/s/GPU를 기록함. 공유 전문가를 라우팅 전문가 경로에 융합해 저동시성 구간 커널 런치를 30.2% 줄이고, 128토큰 블록 희소 어텐션을 16토큰 페이지에 맞추는 compact page table로 KV 캐시 복사를 없앴으며, AITER 희소 어텐션을 다중 토큰 검증으로 확장해 투기적 디코딩 처리량을 7.9~8.3% 개선함.

왜 중요한가

주요 오픈 추론 엔진에서 AMD GPU가 NVIDIA 외 실질적 대안으로 최적화되는 과정을 구체적 수치로 남긴 기록이다.

출처 — 1차 출처를 우선 확인하고, 2차 보도는 「보도」로 따로 표시해요

공식 발표vllm.aihttps://vllm.ai/blog/2026-09-10-minimax-m3-mi355x

2026년 38주차에 더한 기록이에요 · 그 주 보기

노선도에서 — ⑧ 추론 인프라·서빙 노선

  1. 앞 역8세대 TPU
  2. 이 기록AMD Instinct MI355X에서 MiniMax M3를 최적화한 성능 엔지니어링 결과를 공개함
  3. 다음 역DeepSeek-V4.1-Flash 공개
노선도에서 보기

같은 주에 나온 조각

StepAudio 3 Realtime 기술 보고서 공개논문'Scaling Storage for 1 Billion ChatGPT Users (Part I)' 공개공식 발표Agents API 퍼블릭 베타 공개공식 발표ChatGPT Work에 Data agent를 공개함공식 발표

같은 축의 가까운 조각

계층형 KV 캐시 오프로딩(Tiered KV Cache Offloading) 프레임워크를 공개함공식 발표GLM 5.3 최적화 1편으로 Hybrid HiSparse 오프로딩을 공개함공식 발표자사 코드 모델 North Mini Code(총 30B·활성 3.3B)용 디코드 메가커널 서빙 엔진을 공개함공식 발표vLLM TT 플러그인을 공개함공식 발표