学習高速化の結論

　“学習率を限界まで高くする”。慣性項を色々いじった結果こうなりました。

　うーん、慣性項って扱いが難しいですねぇ。下手に高くすると望ましい値付近で振動しますし、かといって低いと効果が無いし。

　おまけにパラメータ数が変わると（＝評価項目を変更すると）適切な学習率が変わってくるし。

　なんというか、学習関連のパラメータを自動で調整する仕組みを考えないといけなさそうな感じです。