한국어EN
온디바이스·로컬 추론Google (AI Edge)Google

LiteRT-LM 정식 출시(GA)

AI가 만든 글AI(Claude)가 출처를 읽고 쓴 기록이에요. 중요한 내용은 아래 출처에서 확인해 주세요.만드는 방법

LiteRT-LM 정식 출시(GA) — iOS 네이티브 Swift API와 WebGPU 가속 JavaScript API 추가. Android CPU·OpenCL GPU·NPU, iOS Metal, 브라우저 WebGPU 지원. Gemma 4 기준 Android GPU 디코드 52 tok/s, iOS GPU 56 tok/s, MacBook Pro M4 Max 웹 76 tok/s, Multi-Token Prediction 최대 2.2배, iOS 메모리 607MB

왜 중요한가

온디바이스 런타임이 모바일 OS를 넘어 브라우저까지 같은 스택으로 덮는 단계. 수치는 벤더 자체 측정

출처 — 1차 출처를 우선 확인하고, 2차 보도는 「보도」로 따로 표시해요

공식 발표developers.googleblog.comhttps://developers.googleblog.com/blazing-fast-on-device-genai-with-litert-lm/

2026년 36주차에 더한 기록이에요 · 그 주 보기

노선도에서 — ⑲ 온디바이스·로컬 추론 노선

  1. 앞 역Gemma 4를 AICore 개발자 프리뷰로 공개
  2. 이 기록 · 역LiteRT-LM
  3. 다음 역WWDC 2026에서 Foundation Models 프레임워크 확장 발표
노선도에서 보기

관련 정리 노트 — 같은 주에 같은 축으로 정리한 노트예요

프리필과 디코드를 다른 칩으로 푸는 로컬 AI 설계6나노 칩이 대역폭을 이긴 비결은 패키징이다

같은 주에 나온 조각

맥락적 충실성과 파라메트릭 충실성이 비대칭적으로만 상관됨을 실증논문Faithfulness as Information Flow 발표논문AI 기본법 시행령 개정안 입법예고보도Command A+ 공개공식 발표

같은 축의 가까운 조각

Discussion #23853공식 발표Chrome 148 스테이블에서 Prompt API를 웹에 공개공식 발표0.30에서 MLX 엔진에 llama.cpp 기반 GGUF 호환 추가공식 발표WWDC 2026에서 Foundation Models 프레임워크 확장 발표보도