2018-01-20 困った、交差エントロピーがバグってるっぽい 開発日記 交差エントロピーがどんどん増大する現象がSGD・RMSProp共に発生したので、損失項を交差エントロピー+L2正則化にして学習させてみました。 自乗誤差が左の軸、交差エントロピーは右の軸です。 困った事に、この条件でも増大傾向です。 三目並べではこの現象は発生していないので、評価関数か探索ルーチンのバグって線が濃厚ですが、どうやってテストしたものか… とりあえずはprintf攻撃で怪しい箇所が無いかチェックですかねぇ。