2016년 14개 조각

구조 설계 자체를 탐색 문제로 바꾼 논문

순환 없이 확장 합성곱으로 시퀀스를 처리한 대안. 탈-순환 경쟁의 한 갈래

신경망 번역이 연구에서 상용 서비스로 넘어간 지점

어텐션 seq2seq를 상용 규모로 구현한 시스템 기술서

자기회귀 생성이 오디오까지 확장됨을 보임. 이후 TTS·오디오 생성의 기반

명령형 실행 방식으로 연구 커뮤니티의 프레임워크 판도를 바꾸기 시작

배치에 의존하지 않는 정규화. Transformer가 채택하며 사실상 기본 부품이 됨

민감 데이터 학습의 표준 기법이자 이후 규제 논의의 기술적 기준점

범용 GPU가 아닌 신경망 전용 실리콘 노선의 시작

all-reduce를 하드웨어 토폴로지에 맞춰 최적화한 표준 계층. 모든 데이터 병렬·ZeRO·FSDP 학습이 이 위에서 돈다

오늘날 거의 모든 벡터DB의 기본 색인 알고리즘

AI 능력에 대한 대중 인식을 바꾼 사건. 이후 투자·정책 논의의 배경이 됨

모바일 온디바이스 학습 경로를 개통

정책·가치망과 몬테카를로 트리 탐색의 결합을 공개. 탐색과 학습의 결합 계보