なぜn_estimatorsやepochsをパラメータサーチしてはいけないのか - 天色グラフィティ

2019/06/30 36 users Optuna Keras ハイパーパラメータ Qiita記事

ハイパーパラメータを探索するため、グリッドサーチやOptunaなどを利用することがあると思います。 しかし、「ハイパーパラメータ探索してみた」のようなQiita記事などでは間違って書かれていることも多いのですが、XGBoostやLightGBMの n_estimators ( num_boosting_rounds )やKerasの epochs をパラメータサーチの対象... 続きを読む

ディープラーニングのハイパーパラメータ自動調整の概要 - HELLO CYBERNETICS

2018/02/10 112 users ディープラーニング HELLO CYBERNETICS

2018 - 02 - 10 ディープラーニングのハイパーパラメータ自動調整の概要 Follow @ML_deep SNSでこの記事をシェアする Bookmark! Facebook Twitter Google+ Pocket はじめに ハイパーパラメータ自動調整の概要 学習という関数 グリッドサーチ 関数近似器（ガウス過程）による方法 メタヒューリスティック最適化 強化学習 まとめ ライブラリ... 続きを読む

機械学習のためのベイズ最適化入門｜Tech Book Zone Manatee

2016/08/25 499 users Tech Book Zone Manatee 機械学習

応用範囲が広く幅広い視点からの説明になりがちなベイズ最適化について、本記事では機械学習のハイパーパラメータ探索に利用することに限定して説明しどのように利用できるのかを解説します。 1. はじめに Contents 1. はじめに 2. ハイパーパラメータ探索 3. グリッドサーチ 4. ベイズ最適化 5. 獲得関数 6. ガウス過程 7. R言語による実装 8. まとめ 最近、ベイズ最適化という手... 続きを読む