GA将?開発日記~王理のその先へ~

ネタ勢最強を目指して絶賛開発中。

困った、交差エントロピーがバグってるっぽい

 交差エントロピーがどんどん増大する現象がSGD・RMSProp共に発生したので、損失項を交差エントロピー+L2正則化にして学習させてみました。

 自乗誤差が左の軸、交差エントロピーは右の軸です。

 困った事に、この条件でも増大傾向です。

 三目並べではこの現象は発生していないので、評価関数か探索ルーチンのバグって線が濃厚ですが、どうやってテストしたものか…

 とりあえずはprintf攻撃で怪しい箇所が無いかチェックですかねぇ。