Googleが“一歩先の未来を予知”できる時系列予測AI基盤モデル「TimeFM」公開、LSTMの進化形「xLSTM」など重要論文5本を解説（生成AIウィークリー） | テクノエッジ TechnoEdge

2024/05/12 15 users seamless xls TechnoEdge 予知 論文単位

2014年から先端テクノロジーの研究を論文単位で記事にして紹介しているWebメディアのSeamless（シームレス）を運営し、執筆しています。 1週間分の生成AI関連論文の中から重要なものをピックアップし、解説をする連載です。第46回目は、生成AI最新論文の概要5つを紹介します。 生成AI論文ピックアップ LSTMの進化形「xLS... 続きを読む

ビーフストロガノフはどのくらい強いのか - Qiita

2021/08/30 291 users ビーフストロガノフ Qiita ディープラーニング 一種 単語

食べ物で強そうな名前のものは？というお題があったときに出がちなのは「ビーフストロガノフ」です。確かに強そうですが、もっと強そうな食べ物もあるような気がします。 今回はディープラーニングの一種であるLSTMとライブラリKerasを使って、食べ物に限らず単語の強さの定量化をしてみようと思います。 方針 まず、件... 続きを読む

MasaKato on Twitter: "人工知能学会論文「LSTMを用いた株価変動予測」のまとめ「実験の結果、LSTM は 1 分後利益率の時系列をモデル化できることが確認された。ただし、過学習が生じ、テストデ

2019/09/18 25 users 時系列 予測 過学習 実験 https

人工知能学会論文「LSTMを用いた株価変動予測」のまとめ「実験の結果、LSTM は 1 分後利益率の時系列をモデル化できることが確認された。ただし、過学習が生じ、テストデータに対する予測ができない点が課題である」． これが月間アク… https://t.co/B23T8K4OnA 続きを読む

【理論から実践まで】動かしながら学ぶ！ゼロからわかる再帰的ニューラルネットワーク（RNN） - LABOT 機械学習エンジニアブログ

2019/06/28 54 users RNN ニューラルネットワーク Keras LABOT 理論

この記事では再帰的ニューラルネットワーク (RNN) について解説をします。RNN の理論的な説明から入り、Keras を用いて実際に RNN を動かしてみます。単純RNN (SimpleRNN), LSTM, 双方向RNN (bidirectional RNN), deep RNN を用いてモデリングをします。なおこの記事はGoogle Colaboratory で動かすことができ、実行しな... 続きを読む

Sketch-RNN でスケッチの自動生成（VAE + LSTM） - エクサウィザーズ Engineer Blog

2018/11/09 29 users 川畑 sketch-rnn VAE エクサウィザーズ 身の回り

こんにちは．エクサウィザーズでインターンをしている川畑です． 視覚によるコミュニケーションというのは人々が相手に何らかのアイデアを伝える際に鍵となります．私たちは小さい頃から物体を描く力を養ってきており，時には感情までもたった複数の線で表現することも可能です．こうした単純な絵というのは，身の回りの... 続きを読む

O'Reilly Japan - ゼロから作るDeep Learning ❷

2018/07/05 82 users O'Reilly Japan Deep learning

コンピュータの専門書としては異例の大ヒットを記録した『ゼロから作るDeep Learning』の続編。第2弾の本書では、自然言語処理や時系列データ処理に焦点を当て、ディープラーニングを使ってさまざまな問題に挑みます。word2vecやRNN（リカレントニューラルネットワーク）、LSTMやGRU、seq2seqやAttention……ディープラー... 続きを読む

LSTMでバイナリデータを読む~あるいはニューラルネットワークによるJPEGの再評価~ - Qiita

2017/12/01 58 users バイナリデータ ニューラルネットワーク Qiita JPEG

この記事では以下の内容をはなします バイナリデータをそのままニューラルネットワークに突っ込むことができる グリッチJPEG画像も認識できる CNN+LSTMの構造がよくバイナリデータを学習する JPEGはロバストな画像的特徴を捉えやすいバイナリフォーマットである バイナリデータ認識と画像認識の違い 学会発表のためバンコクに来ています。 @Hi-king です。この記事は ドワンゴ Advent C... 続きを読む

ChainerでLSTM + Attentionを計算する - Qiita

2017/11/21 12 users attention Qiita Chainer

import numpy as np from chainer import Variable import chainer.functions as F import chainer.links as L ## 入力データの準備 x_list = [[0, 1, 2, 3], [4, 5, 6], [7, 8]] # 可変長データ (4, 3, 2)の長さのデータとする x_list = [np... 続きを読む

深層学習 を 用いた 異常値検知 手法まとめ 〜 (Denosing) AutoEncoder, LSTM, TDA（Topological Data Analysis) + CNN - Qiita

2017/08/24 323 users 深層学習

オーソドックス な アプローチ（一般的手法） まず は、以下 が よくまとまっている。 株式会社クロスコンパス・インテリジェンス（2016.10.5）「NVIDIA GPU TECHNOLOGY CONFERENCE JAPAN 2016 Industry Deep Learning」 異常値予測 を 行う アプローチ としては、以下 が 一般的な考え方 の ようだ。 （データ量の多い）正常時のデ... 続きを読む

AIに架空の歴史を書かせてみた。結果．．．

2017/08/03 57 users 歴史 結果 RNN Wikipedia 時系列

AIに文章を作らせる方法概要（LSTM） 架空の名前から架空の人物の歴史概要を作成してみました。 やり方としては、wikipediaの人物の概要の部分を抜き出してRNNにトレーニングさせます。 そのトレーニングさせたモデルに対して名前を入力すると、その人物の概要を出力してくれるようにします。 RNNとは、Recurrent Neural Networksの略で、時系列の情報を学習させるためのニュー... 続きを読む

LSTMを超える期待の新星、QRNN - Qiita

2016/12/12 95 users Qiita RNN 新星 CNN 期待

RNN「これってもしかして」 CNN「わたしたちのモデルが・・・」 「「入れ替わってる～～～！？」」 というわけでQRNN、QUASI-RECURRENT NEURAL NETWORKSとは、RNNの機構をCNNで「疑似的(QUASI)に」実装するというモデルです。これにより、既存のRNN(というかLSTM)が抱えていたいくつかの問題の解決を試みています。 元論文は以下となります。 QUASI-R... 続きを読む

Chainerで学ぶLSTM - kivantium活動日記

2016/01/31 63 users Chainer ニューラルネットワーク CNN ネットワーク

2016 - 01 - 31 Chainerで学ぶLSTM このブログで何回も取り上げているように、 ニューラルネットワーク を用いた 機械学習 はかなりの力を発揮します。畳み込み ニューラルネットワーク (convolutional neural network, CNN)は画像中で近くにあるピクセル同士の関係に注目するなど画像の特徴をうまくとらえたネットワークを構築することでかなりの成功を収め... 続きを読む

MachineLearning - わかるLSTM ～ 最近の動向と共に - Qiita

2015/12/14 363 users Qiita MachineLearning 動向 一種 指摘

Machine Learning Advent Calendar 2015 第14日です。去年のAdvent Calendarで味をしめたので今年も書きました。質問、指摘等歓迎です。 この記事の目的 ここ2～3年のDeep Learningブームに合わせて、リカレントニューラルネットワークの一種であるLong-Short Term Memory(LSTM)の存在感が増してきています。LSTMは現在... 続きを読む

Chainerのptbサンプルを解説しつつ、自分の文章を深層学習させて、僕の文章っぽい文を自動生成させてみる - shi3zの長文日記

2015/07/14 37 users Chainer リカレントニューラルネットワーク RNN

未踏合宿中もディープラーニングを勉強しておきたかったのでとりあえずAmazon AWSのg2.xlargeサーバーをセットアップ(これが既に地獄)して、ptbサンプルを実行してみた。 　このサンプルはptb(Penn Tree Bank)をLSTM(Long Short Term Memory)を使ったリカレントニューラルネットワーク(RNN)で学習する。元の論文はこれ→http://arxiv.... 続きを読む

RNNこれくしょんでLSTM使おうと思って失敗した話をMLCTでした - Java Coffee Cafe

2015/05/02 9 users セグフォ MLCT づら 後世 内部

2015-05-02 RNNこれくしょんでLSTM使おうと思って失敗した話をMLCTでした RNNこれくしょんを早速人柱になろうじゃないかと使ってみた 本来であれば結果や内部でどんな表現を獲得してるのかを話したかったが、 動くまでがものすごくツラく、しかもまだ間違ってるっぽい しかし、後世の人たちの為にセグフォで落ちないところまでどうやったかをまとめておく ただし、全てのデータが必ずこのやり方で落... 続きを読む