中学生でもわかる深層学習

2024/03/29 508 users 深層学習 中学生 ニューラルネットワーク 音声 講演

第1章　理論編 ・深層学習とは (p.13-) ・ニューラルネットワークとは (p.31-) ・どうやって学習するか: 勾配降下法 (p.57-) ・深層学習の注意点 (p.91-) 第2章　応用編 ・分類問題 (p.110-) ・画像認識 (p.120-) ・音声認識／自然言語処理 (p.151-) ・講演のまとめ (p.167-) 続きを読む

Pythonで理解するディープラーニング入門 - Speaker Deck

2019/10/10 331 users Python Speaker Deck コーディング 題材

ディープラーニングの仕組みを理解するための一番のポイントは「損失関数」と「勾配降下法」の考え方です。本講演では、線形回帰モデルを題材に、この2つの考え方についてPythonのコーディングも含めた形で説明します。講演者の著作「最短コースでわかるディープラーニングの数学」からエッセンスをお届けします。 続きを読む

勾配降下法の最適化アルゴリズムを概観する | コンピュータサイエンス | POSTD

2016/12/09 595 users ニューラルネットワーク POSTD 洞察 アルゴリズム 目次

勾配降下法は、最適化のための最も知られたアルゴリズムの1つです。これまではニューラルネットワークを最適化するのに最も一般的な方法でした。このブログの投稿では、実際にアルゴリズムを実行する際の助けとなるよう、勾配降下法を最適化する異なったアルゴリズムの動作についての洞察をしてみたいと思います。(編注：2016/07/29、いただいたフィードバックをもとに記事を修正いたしました。) 目次： さまざまな... 続きを読む

勾配降下法の最適化アルゴリズムを概観する | コンピュータサイエンス | POSTD

2016/07/27 595 users POSTD ニューラルネットワーク 洞察 アルゴリズム 目次

勾配降下法は、最適化のための最も知られたアルゴリズムの1つです。これまではニューラルネットワークを最適化するのに最も一般的な方法でした。このブログの投稿では、実際にアルゴリズムを実行する際の助けとなるよう、勾配降下法を最適化する異なったアルゴリズムの動作についての洞察をしてみたいと思います。目次： さまざまな勾配降下法 バッチ勾配降下法 確率的勾配降下法 ミニバッチ勾配降下法 課題 勾配降下法を最... 続きを読む

SGD+α: 確率的勾配降下法の現在と未来

2013/10/18 51 users SGD 大岩 秀和 PFIセミナー kisa12012

SGD+α: 確率的勾配降下法の現在と未来 Presentation Transcript 2013/10/17 PFIセミナー SGD+α 確率的勾配降下法の現在と未来 東京大学 情報理工学系研究科 大岩 秀和 / @kisa12012 自己紹介 •大岩 秀和 (a.k.a. @kisa12012) •所属: 東大 数理情報 D2 (中川研) •研究: 機械学習・言語処理 •オンライン学習/確率... 続きを読む