AdaGrad

1 개요

AdaGrad

• 각 매개변수의 경사를 재조정하여 사실상 각 매개변수에 독립적인 학습률을 부여하는 정교한 경사하강법 알고리즘

2 같이 보기

• 학습률
• 경사하강법

3 참고

• 영어 위키백과 "Stochastic gradient descent#AdaGrad"
• http://www.jmlr.org/papers/volume12/duchi11a/duchi11a.pdf