Filter
Exclude
Time range
-
Near
俵@tawatawara
May 9
今回の発表、特許権に関してはスルーするんだけど結局 BatchNormalization と Dropout って各社はどう対応してるんですかねぇ。未だによくわからん...
1
13
4,607
mgktaq@mgktaq
Mar 13
Python TensorFlow 公式の 5-flowers で深層学習 ～ DNN EarlyStopping note🖋 note.com/mgktaq/n/n725acd587… モデルを確認 ユニット数150528（入力）→512（全結合層1）→batch normalization→活性化関数→dropout→128（全結合層2）→batchnormalization→活性化関数→dropout →5（出力）
7
163
Philanthrop
@0xPhilanthrop
Mar 12
x.com/i/article/203205677995…
1
11
4,780
SHADOW 👻
@Shadow_CryptX
Mar 11
x.com/i/article/203181196342…
5
205
mgktaq@mgktaq
Mar 6
Python TensorFlow 公式の 5-flowers で深層学習 ～ DNN BatchNormalization Dropout note🖋 note.com/mgktaq/n/n725acd587… modelの評価 testデータを使用してモデルを評価 訓練の推移をみるとDNNにbatch normalizationとdropoutを追加することで次第にvalidationの精度が安定傾向となりました（まだ低い）
13
405
mgktaq@mgktaq
Mar 2
Python TensorFlow 公式の 5-flowers で深層学習 ～ DNN BatchNormalization Dropout note🖋 note.com/mgktaq/n/n725acd587… 学習の結果とTensorBoardでの可視化
12
512
mgktaq@mgktaq
Feb 27
Python TensorFlow 公式の 5-flowers で深層学習 ～ DNN BatchNormalization Dropout note🖋 note.com/mgktaq/n/n725acd587… fitで学習を実行 訓練に img_train、label_train_idx、validation_split=0.1として検証データを分割 batch sizeは32に設定 処理の回数epochは50に設定
9
312
mgktaq@mgktaq
Feb 24
Python TensorFlow 公式の 5-flowers で深層学習 ～ DNN BatchNormalization Dropout note🖋 note.com/mgktaq/n/n725acd587… compileで学習を設定 最適化アルゴリズムはadam ラベルは整数のインデックスなので損失関数はSparseCategoricalCrossentropy 評価指標はaccuracy
12
623
mgktaq@mgktaq
Feb 18
Python TensorFlow 公式の 5-flowers で深層学習 ～ DNN BatchNormalization Dropout note🖋 note.com/mgktaq/n/n725acd587… モデルを確認 ユニット数150528（入力）→512（全結合層1）→batch normalization→活性化関数→dropout→128（全結合層2）→batchnormalization→活性化関数→dropout →5（出力）
5
224
mgktaq@mgktaq
Feb 16
Python TensorFlow 公式の 5-flowers で深層学習 ～ DNN BatchNormalization Dropout note🖋 note.com/mgktaq/n/n725acd587… modelの作成 2層の全結合の中間層、ユニット数は512と128、それぞれにbatch normaizationとdropoutを導入、活性化関数はReLU ReLUの後にdropout層を追加
1
9
350
Alafiade@Alafiade1
Feb 14
Added dropout batchnormalization and the model significantly improved
Alafiade@Alafiade1
Feb 14
Decided to train it on dropout alone and it performed better than batchnormalization
1
2
179
Alafiade@Alafiade1
Feb 14
Decided to train it on dropout alone and it performed better than batchnormalization
Alafiade@Alafiade1
Feb 14
Lmao i was'nt even surprised batch normalization alone only stabilizes training and does not solve overfitting
1
2
229
mgktaq@mgktaq
Feb 12
Python TensorFlow 公式の 5-flowers で深層学習 ～ DNN BatchNormalization Dropout note🖋 note.com/mgktaq/n/n725acd587… TensorFlow公式から取得した花のデータを対象として、DNNにbatch normalizationとdropoutを追加しました dropoutを追加することで過学習を抑えることができます

深層学習ノートブック　TensorFlow 公式の 5-flowers で深層学習 ～ DNN BatchNormalization Dropout｜mgktaq

はじめに TensorFlow公式から取得した花のデータを対象として、2層の全結合の中間層をもつDNN（ディープニューラルネットワーク）に batch normalization を加とdropoutを追加しました。 （DNNにdropoutのみ追加では訓練の精度低下が著しいため、DNN batch normalizationにdropoutを追加しました） batch normalizat...

note.com
1
15
1,586
mgktaq@mgktaq
Feb 10
Python TensorFlow 公式の 5-flowers で深層学習 ～ DNN BatchNormalization note🖋 note.com/mgktaq/n/n60e5a6901… modelの評価 testデータを使用してモデルを評価 DNNにbatch normalizationを加えることで、訓練の精度は飛躍的に高まったが検証と評価の精度はあまり向上せず乖離が強くなった結果
8
285
mgktaq@mgktaq
Feb 6
Python TensorFlow 公式の 5-flowers で深層学習 ～ DNN BatchNormalization note🖋 note.com/mgktaq/n/n60e5a6901… 学習の結果とTensorBoardでの可視化
9
543
mgktaq@mgktaq
Feb 4
Python TensorFlow 公式の 5-flowers で深層学習 ～ DNN BatchNormalization note🖋 note.com/mgktaq/n/n60e5a6901… fitで学習を実行 訓練に img_train、label_train_idx、validation_split=0.1として検証データを分割 batch sizeは32に設定 処理の回数epochは30に設定
6
214
mgktaq@mgktaq
Feb 3
Python TensorFlow 公式の 5-flowers で深層学習 ～ DNN BatchNormalization note🖋 note.com/mgktaq/n/n60e5a6901… compileで学習を設定 最適化アルゴリズムはadam ラベルは整数のインデックスなので損失関数はSparseCategoricalCrossentropy 評価指標はaccuracy
6
285
mgktaq@mgktaq
Feb 2
Python TensorFlow 公式の 5-flowers で深層学習 ～ DNN BatchNormalization note🖋 note.com/mgktaq/n/n60e5a6901… summaryとplot_modelでモデルを確認 150528（入力）→512（全結合層1） →batchnormalization →活性化関数 →128（全結合層2）→ batchnormalization →活性化関数 →5（出力）の流れ
9
420
mgktaq@mgktaq
Jan 30
Python TensorFlow 公式の 5-flowers で深層学習 ～ DNN BatchNormalization note🖋 note.com/mgktaq/n/n60e5a6901… modelの作成 2層の全結合の中間層、ユニット数は512と128、BatchNormaizationを導入、活性化関数はReLU BatchNormalizationは活性化関数の前に置く必要があるため、ReLUはDenseと別にする
6
249
mgktaq@mgktaq
Jan 28
Python TensorFlow 公式の 5-flowers で深層学習 ～ DNN BatchNormalization note🖋 note.com/mgktaq/n/n60e5a6901… TensorFlow公式から取得した花のデータを対象とする深層学習で、DNNにbatch normalizationを加えました batch normalizationを使うことで学習を安定化させ収束を速くすることができます

深層学習ノートブック　TensorFlow 公式の 5-flowers で深層学習 ～ DNN BatchNormalization｜mgktaq

はじめに TensorFlow公式から取得した花のデータを対象として、2層の全結合の中間層をもつDNN（ディープニューラルネットワーク）に batch normalization を追加しました。 2 ～ 13 はデータの取得と変換のコードで、 5-flowers 線形モデルと同じです。 各関数などの詳細は下記を参照してください。 https://note.com/mgktaq/n/nf25...

note.com
1
7
512
Load more