数式で書き下す Convolutional Neural Networks (CNN) - Yusuke Sugomori's Blog

2015/09/23 75 users CNN 数式 MATLAB Theano Python

CNNは画像認識の分野で驚異的な精度を誇るディープラーニングのアルゴリズムのひとつであるものの、ぱっと見がとても複雑な構造をしているため、実装するのも大変そうです。 実際、ネットや文献上で見られる多くのCNNの実装は、Theano (pythonのライブラリ)の自動微分機能を使っていたり、MATLABの組み込み関数を使っているものがほとんどです。 そのためか、きちんと forward propag... 続きを読む

PythonによるDeep Learningの実装（Dropout + ReLU 編） - Yusuke Sugomori's Blog

2015/08/03 116 users dropout 下火 Python 界隈 実装

久しぶりのブログ更新となります。 今回は、Dropout + ReLU のコード（python）を紹介します。最近の Deep Learning 界隈は、もっぱらDropoutと新しい活性化関数の組み合わせが多いみたいですね。 しばらく触れないでいる内に、以前は最前線だった Deep Belief Nets や Stacked Denoising Autoencoders がすっかり下火になってし... 続きを読む