数式を使わないTransformerの解説（前編） - conceptualization

2023/03/21 171 users Transformer Midjourney 主旨 数式 手法

最近話題のmidjourneyやDALL-E、凄いですよね。中身はディープラーニング（DNN）のようです。DNNといっても色んな技術がありますが、それらにはTransformerという手法が使われています。本記事は、その手法がどんなものであるかを数式を使わずに説明してみよう、という主旨になります。 ※なお本記事は機械学習のプロの研... 続きを読む

学習が何で律速してるか、把握してますか？ - arutema47's blog

2022/12/07 108 users arutema47's blog 学習 コンピューティング

はじめに どの処理で律速しているか調べる 各処理の速度改善方法 データ読み込み速度の改善 データ前処理速度の改善 GPU処理速度の改善 コンピューティングについての他記事 はじめに Kaggle Advent Calendar 2022 8日目です。 突然ですが、あなたはDNN学習時にどの処理で学習速度が律速しているか把握してますか？ DNN... 続きを読む

Pythonでニューラルネットワークを書いてみよう

2022/02/08 168 users ニューラルネットワーク ニューラルネット Python 他者

連載目次 本連載（基礎編）の目的 スクラッチ（＝他者が書いたソースコードを見たりライブラリーを使ったりせずに、何もないゼロの状態からコードを記述すること）でディープラーニングやニューラルネットワーク（DNN：Deep Neural Network、以下では「ニューラルネット」と表記）を実装して学ぶ系の書籍や動画講座、記... 続きを読む

コピペから脱却して自由に Deep Learning するための TensorFlow 再入門 - Qiita

2018/04/07 110 users TensorFlow Qiita コピペ MNIST 再入門

はじめに TensorFlow はなかなかとっつきにくい部分があるかと思います。書き方が独特なので、慣れるまでに時間がかかるかと思います。公式の MNIST は一通りやったけど、自分で考えたディープニューラルネットワーク (DNN) をどう書いたらいいかわからない……なんてこともあるのではないでしょうか。 この記事では、シンプルな問題を題材にして、 TensorFlow をコピペに頼らず、自分の書... 続きを読む

PythonコードからFPGAを生成、深層学習したDNNをハードウェアに：機械学習／Deep Learningの仕事が増える2017年、ソフトウェアエンジニアがFPGAを学ぶべき理由 - ＠IT

2017/01/30 443 users FPGA 深層 FPGAエクストリーム・コンピューティング

PythonコードからFPGAを生成、深層学習したDNNをハードウェアに： 機械学習／Deep Learningの仕事が増える2017年、ソフトウェアエンジニアがFPGAを学ぶべき理由 ソフトウェアエンジニアがFPGAを使うハードルがさらに下がってきている。ソフトウェア開発者の立場でFPGAに取り組むイベント「FPGAエクストリーム・コンピューティング」を主宰する佐藤一憲氏、FPGAの高位合成によ... 続きを読む