NLPerのための"CUDA out of memory"回避術 - Qiita

2019/12/24 5 users Qiita NLPer quot VAE GPU

TL;DR GPUでNLPする時のCUDA out of memoryを回避する方法を地味なものからナウいものまでまとめてみた 自己紹介 都内のしがない博士院生 NLPer PyTorchユーザー VAEが好き CUDA out of memory とは GPUのメモリに大きなサイズのテンソルを乗せすぎて容量を超えてしまうことで発生するエラー。 NLPerに限らず、多くのエ... 続きを読む

ディープラーニングの数学「スカラー・ベクトル・行列・テンソル」とは？

2019/05/22 52 users スカラー ベクトル ディープラーニング 数学 行列

ディープラーニングの解説では「スカラー・ベクトル・行列・テンソル」という言葉がよく出てきます。これらは、数値をまとめてあつかうための数学の便利な仕組みなのですが、私をふくめ数学が苦手な方にとっては「〜をベクトルにして」とか「行列とスカラーを計算するには〜」と言われると、おそろしく難解なことに思え... 続きを読む

テンソルがなかなか理解されない３つの理由 - 数学、ときどき統計、ところによりＩＴ

2017/01/28 391 users 理学部 工学部 力学 教養科目 数学

大学の理学部（数物系）、工学部などの出身者であれば、 テンソル という言葉を少なくても１度は耳にしたことがあると思います。重要な概念にも関わらず、どうして テンソル は理解されないのか、その原因について考えてみたいと思います。 いろいろな テンソル テンソル と最初に出会うのは、全学共通科目（昔でいう教養科目）の力学に登場する慣性モーメント テンソル あたりでしょう。専門学部（理学部の物理学科や工... 続きを読む

TensorFlowを始める前に知っておくべきテンソルのこと - "機械学習","信号解析","ディープラーニング"の勉強

2016/12/01 40 users Tensor TensorFlow 数式 インデックス 勉強

2016 - 12 - 01 TensorFlowを始める前に知っておくべきテンソルのこと ディープラーニング 数学 TensorFlowとは Googleが開発したライブラリ Tensorとは Tensorとは多次元配列のこと Tensorの名前を与える 数式に落としこむ データとテンソル グレースケール画像は2階テンソル RGB画像は3階テンソル インデックスは人間が決めていい 注意点 Ten... 続きを読む

From Painleve to 21th century: クロネッカーのデルタ

2015/04/12 7 users CENTURY 原典 デルタ おなじみ 数学用語

2015年4月12日日曜日 クロネッカーのデルタ クロネッカーのデルタ  δij　= 1 (i =j),  =0 (i ≠j) は、線型代数やテンソルなどでおなじみである。しかしながら、原典が何かとなるとはっきり書いてあるものを見ない。 Earliest Known Uses of Some of the Words of Mathematics　は数学用語の初出を調べるには便利なサイトである。し... 続きを読む