勾配降下法の最適化アルゴリズムを概観する | コンピュータサイエンス | POSTD

2016/12/09 595 users ニューラルネットワーク POSTD 洞察 アルゴリズム 目次

勾配降下法は、最適化のための最も知られたアルゴリズムの1つです。これまではニューラルネットワークを最適化するのに最も一般的な方法でした。このブログの投稿では、実際にアルゴリズムを実行する際の助けとなるよう、勾配降下法を最適化する異なったアルゴリズムの動作についての洞察をしてみたいと思います。(編注：2016/07/29、いただいたフィードバックをもとに記事を修正いたしました。) 目次： さまざまな... 続きを読む

勾配降下法の最適化アルゴリズムを概観する | コンピュータサイエンス | POSTD

2016/07/27 595 users POSTD ニューラルネットワーク 洞察 アルゴリズム 目次

勾配降下法は、最適化のための最も知られたアルゴリズムの1つです。これまではニューラルネットワークを最適化するのに最も一般的な方法でした。このブログの投稿では、実際にアルゴリズムを実行する際の助けとなるよう、勾配降下法を最適化する異なったアルゴリズムの動作についての洞察をしてみたいと思います。目次： さまざまな勾配降下法 バッチ勾配降下法 確率的勾配降下法 ミニバッチ勾配降下法 課題 勾配降下法を最... 続きを読む