2018년 5개 조각

단일 과제가 아닌 다중 과제 묶음으로 언어이해를 정의. 이후 모든 LLM 리더보드의 원형

노드 내부를 하나의 큰 GPU로 만든 계층. 텐서 병렬화가 실용적이 된 물리적 전제

분산 학습을 연구 인프라에서 일반 도구로 내린 전환점

벤더 커널 라이브러리 독점에 대한 첫 실질적 컴파일러 대안. 자동 스케줄링 개념을 업계에 이식

grad/jit/vmap 변환 조합과 XLA 컴파일로 TPU 대규모 학습의 표준 경로를 형성. 저장소는 구글 공식 제품이 아닌 연구 프로젝트로 명시