問題は一つ解決

　上で書いたrastrigin関数で収束しない現象ですが、数式に間違いがあっただけでした。

　んで、テスト関数では学習が上手く行くけど探索パラメータの学習はNGなので、探索部分にバグが有る可能性大です。

　つー事で、ログ出力は後回しにしてデバッグしてみます。