本日の kaggle / MNIST の進捗 ; 0.99578

Summary

今日の kaggle/MNIST の結果は 0.99578。前回の 0.99553 より微増した。

やったこと

先週のブログ「今日の kaggle / MNIST は準備だけ - Diary of Masahiro SATO」に書いた通り,次のようなことをした。

  1. これまで通り,全データを使って普通に学習 (後のアンサンブル学習のため,5 回繰り返す)
  2. 正答の確率の低い画像データを使って,転移学習をする (後のアンサンブル学習のため,これも 5 回繰り返す)
  3. 上記のデータを使ってアンサンブル学習をする

結果

結果としては, 通常学習結果を 5 回分, 転移学習結果を 4 回分使ってアンサンブル学習した結果,0.99578 のスコア (上位 7.8%) になった。

通常学習結果を 5 回分,転移学習を 5 回分の結果は 0.99575 で,上記よりも悪い。同様に転移学習結果を 3 回分の場合は 0.99571 であり,わずかではあるが上記より劣ってる。

通常学習 転移学習 スコア
5 3 0.99571
5 4 0.99578
5 5 0.99575

今後

新たなアルゴリズムは思いついていないのだが,アンサンブル学習の回数を例えば 5 回から 10 回に増やせば,僅かかもしれないがスコアは改善しそうだ。アルゴリズムが思い付くまでは,アンサンブル学習の回数を増やして,小遣い稼ぎのようにスコアアップしてみよう。