【G検定毎日クイズ】
勾配降下法を用いてモデルを訓練する際の、オンライン学習・バッチ学習・ミニバッチ学習の関係について、最も適切なものを1つ選んでください。
ただし、全訓練データ数をNとします。
① オンライン学習はパラメータ更新時に用いるデータ数が「1」、バッチ学習は「N」、ミニバッチ学習は「1 < n < N」。
② オンライン学習は「N」、バッチ学習は「1 < n < N」、ミニバッチ学習は「1」。
③ オンライン学習は「N」、バッチ学習は「N」、ミニバッチ学習は「1 < n < N」。
④ オンライン学習は「N」、バッチ学習は「1」、ミニバッチ学習は「1 < n < N」。
==========
ディープラーニングの学習でよく使う3つの方式。
「1回のパラメータ更新でデータを何件使うか」が見分けるポイントです。
答えを決めるまで、下にスクロールしないでくださいね!
答えはこちら👇
正解は
「① オンライン学習はパラメータ更新時に用いるデータ数が「1」、バッチ学習は「N」、ミニバッチ学習は「1 < n < N」。」です。
G検定ではまず、「1回のパラメータ更新で何件のデータを使うか」で整理すると理解しやすいです。
オンライン学習は1件ずつ更新するので、新しいデータが流れてくる状況に強い反面、ノイズの影響を受けやすい。
バッチ学習は全データを使って一度にまとめて更新するので、安定しているが計算コストが大きい。
ミニバッチ学習はその中間で、現在のディープラーニングで最も一般的な手法です。GPUの並列処理とも相性が良いんですよね。
他の選択肢が、なぜ違うのかも整理しておきますね。
② オンラインとミニバッチの説明が逆になっています。
③ オンラインの数値が間違い(オンラインは1件です)。
④ バッチとオンラインの数値が逆になっています。
✅ オンライン学習:1件ずつ更新(学習が速いがノイズに弱い)
✅ バッチ学習:全データ(N件)でまとめて更新(安定だが重い)
✅ ミニバッチ学習:その中間(1 < n < N)→ DLで最も一般的
✅ 確率的勾配降下法(SGD)はオンライン学習の代表
==========
もし「今日の問題を解けなかった...」という方は、
G検定対策チャンネルの動画で復習してくださいね。
▼G検定対策チャンネル
youtube.com/@ai_exam-guide-g…
G検定に最短で合格したい人はフォローしてください!
それではまた明日のクイズもお楽しみに!