プロでもよくある線形回帰モデルの間違い - Qiita

2022/08/15 15 users データサイエンス 不足 Qiita 解説 解説記事

最近、データサイエンスが流行っていることもあり、線形回帰モデルについても解説記事を見かけることが多くなりました。情報にアクセスしやすくなったのはいいことだと思うんですが、ずっと以前から間違いや解説の不足が多い理論なので、私なりに解説を試みたいと思います。全体的にあまり厳密ではありませんが、線形回... 続きを読む

決定係数について - Qiita

2022/01/28 16 users Qiita Nospare ベクトル パラメータ 行列

はじめに 千葉大学/Nospareの米倉です．今回は決定係数について解説したいと思います． 決定係数とは まずは次のような線形回帰モデルを考えます， $$y=X\beta+\epsilon.$$ ここで$y,X,\beta$はそれぞれ，$n$次元の被説明変数のベクトル，$X$は説明変数ベクトルからなる$n\times d$の行列，$\beta$は$d$次元のパラメータ... 続きを読む

Pythonで理解するディープラーニング入門 - Speaker Deck

2019/10/10 331 users Python Speaker Deck コーディング 題材

ディープラーニングの仕組みを理解するための一番のポイントは「損失関数」と「勾配降下法」の考え方です。本講演では、線形回帰モデルを題材に、この2つの考え方についてPythonのコーディングも含めた形で説明します。講演者の著作「最短コースでわかるディープラーニングの数学」からエッセンスをお届けします。 続きを読む

【書籍紹介】ガウス過程と機械学習 - HELLO CYBERNETICS

2019/03/25 15 users ガウス過程 ガウス分布 HELLO CYBERNETICS

はじめに 目次とコメント 0章 たった５分でガウス過程が分かってしまう 1章 線形回帰モデル 2章 ガウス分布 3章 ガウス過程 4章 確率的生成モデルとガウス過程 5章 ガウス過程の計算法 6章 ガウス過程の適用 7章 ガウス過程による教師なし学習 ガウス過程のライブラリ GPy GPyTorch GPflow はじめに 既に機械学習界隈の... 続きを読む

高次元データに対するL1正則化の有効性｜内場 崇之｜note

2018/12/17 10 users 数理 変数 高次元データ 個数 有効性

Introduction高次元データでの回帰問題に対して、線形回帰モデルのL1正則化（Lasso回帰）の有効性は広く知られているところです。この有効性の理由は数理統計的な側面からも理解が進んで来ました。代表的な結果の1つに、Lasso回帰の 変数の個数に対して必要なサンプルサイズは対数的にしか増加しない。と言う性質が挙げ... 続きを読む