Alibaba

프런티어 오픈웨이트 모델의 아키텍처 선택 근거를 절제 실험 단위로 공개한 사례. 저자 자체 보고로 손실과 다운스트림 정확도가 늘 같이 움직이지는 않으며, 이 아키텍처와 Muon 옵티마이저의 조합이 최적 학습률과 배치 크기를 위로 밀어 배치 크기 워밍업을 불필요하게 만들고 스트레스 테스트에서 안정성을 크게 개선.

중국 최대 AI 인프라 자금 조달. 지분 희석을 감수한 컴퓨트 확보 경쟁

최상위 모델의 개방 약속과 실제 배포가 분리되는 관행. Kimi K3도 같은 방식이었다는 지적이 함께 제기됨 — 오픈 모델 기록 시 발표일과 가중치 공개일을 분리해야 하는 근거

최상위 모델은 자체 라이선스로 가면서 소형 모델은 Apache 2.0을 유지 — 규모별 라이선스 이원화

최상위 오픈웨이트가 Apache가 아닌 전용 라이선스로 회귀. Qwen3.8-Max는 이를 기반으로 한 비공개 상용판

dense 27B가 397B MoE 전작을 상회하며 진짜 개방의 무게중심이 30B급으로 내려옴

오픈 웨이트 옴니모달이 10시간 오디오·400초 비디오를 처리하며 프런티어를 따라잡음

초기 융합 멀티모달 학습을 Apache 2.0 대형 MoE에 적용. Plus는 비공개로 남겨 개방/폐쇄 병행

자사 주장 기준 오픈 모델 중 에이전틱 코딩·브라우저 사용·툴 사용에서 최고 성능을 냈다고 밝혔고, 명령줄 코딩 도구 Qwen Code를 함께 오픈소스로 공개

오픈웨이트 임베딩이 상용 API 모델을 리더보드에서 앞선 지점

전 크기대를 무제약 라이선스로 덮는 전략으로 HF 파생 모델 수에서 Llama를 추월

QwQ-32B-Preview의 정식 후속으로, 자사 주장 기준 총 671B(활성 37B)인 DeepSeek-R1과 비슷한 성능을 32B로 냈다고 밝힘

o1 이후 최초의 오픈 추론 모델

3B와 72B를 뺀 오픈 모델을 Apache 2.0으로 배포했고, 이전 세대에서 빠졌던 14B·32B 크기를 다시 넣음

72B만 기존 Qianwen 라이선스를 유지하고 나머지 4종은 Apache 2.0으로 바꿔 Qwen 계열의 라이선스 개방이 시작된 릴리스

소형 오픈웨이트가 상용 API를 추월하기 시작한 신호

알리바바의 첫 오픈웨이트 언어 모델로, 초기판은 2.2T 토큰으로 학습됐고 2023년 9월 25일 갱신판에서 2.4T 토큰으로 늘어남