2017-03-23 Online Learning Rate Adaptation with Hypergradient Descent 後で読む https://arxiv.org/abs/1703.04782 直前の勾配と現在の勾配の関係から、学習率を自動調整するらしい。