한국어EN
전사 — 신경망에서 Transformer까지Sepp Hochreiter

뮌헨공대 학위논문에서 소실 그래디언트 문제 규명

뮌헨공대 학위논문에서 소실 그래디언트 문제 규명

왜 중요한가

깊이와 시퀀스 길이가 늘수록 학습 신호가 사라짐을 처음 규명. LSTM·잔차연결의 문제 정의

출처 — 1차 출처만 싣고, 직접 이동해 확인할 수 있어요 보도en.wikipedia.orghttps://en.wikipedia.org/wiki/Vanishing_gradient_problem2026년 8월 24일에 더한 조각 · 그 주 보기
같은 축의 가까운 조각1989Approximation by superpositions of a sigmoidal function공식 발표1989Multilayer feedforward networks are universal approximators보도1989-12Backpropagation Applied to Handwritten Zip Code Recognition보도1994-03Learning long-term dependencies with gradient descent is dif…보도
Backpropagation Applied to HLearning long-term dependenc