A不正解
正則化のパラメータを弱める
正則化を弱めるとモデルは複雑になり、オーバーフィッティングは悪化します。
抑制に有効なのは正則化を強める方向であり、本問で適切な『早期終了』にもあたらないため不正解です。
ある ML チームが、学習を重ねるほど学習データの精度は上がる一方で、検証データの精度は途中から悪化していくモデルに対処しています。このオーバーフィッティングを抑えるための対処として、最も適切なものはどれですか。
検証精度が途中から悪化するモデルで、過学習を抑える適切な対処を選ぶ問題。
正則化のパラメータを弱める
正則化を弱めるとモデルは複雑になり、オーバーフィッティングは悪化します。
抑制に有効なのは正則化を強める方向であり、本問で適切な『早期終了』にもあたらないため不正解です。
エポック数をさらに増やす
エポック数を増やして学習を長く続けると、学習データへの過剰適合がさらに進みます。
検証精度が悪化し始めた状況では逆効果のため不正解です。
早期終了を行う
正解。早期終了(アーリーストッピング)は、検証データの精度が悪化に転じた時点で学習を打ち切ることで、学習データへの過剰適合(オーバーフィット)が進む前に学習を止める手法です。本問のように検証精度が途中から悪化するモデルに有効な対処です。
学習率を上げて学習を加速する
学習率は重み更新の歩幅を決める設定で、上げても過剰適合を抑える仕組みにはなりません(むしろ学習が不安定になり得ます)。
本問で適切な『早期終了』による抑制ではないため不正解です。
正解の『早期終了(アーリーストッピング)』を押さえます。
・検証データの精度が悪化に転じた時点で学習を打ち切る。
・過剰適合が進む前に止めることでオーバーフィッティングを抑える。
『データを減らす』『学習を長く続ける』はいずれも過学習を悪化させ、『レイテンシを下げる』は過学習の抑制とは無関係です。