AIが描きかけのおちんちんを仕上げてくれる「dick-rnn」 - GIGAZINE

2020/04/26 121 users GIGAZINE リカレントニューラルネットワーク 通り

ニューラルネットワークを用いてお絵描き途中の線からイラストを仕上げる「Sketch-RNN」のようなリカレントニューラルネットワーク(RNN)モデルとして作成された「dick-rnn」は、その名の通り「dick(おちんちん)」のイラストに特化したRNNです。 [P] I trained a recurrent neural network trained to draw dick doodles ... 続きを読む

【理論から実践まで】動かしながら学ぶ！ゼロからわかる再帰的ニューラルネットワーク（RNN） - LABOT 機械学習エンジニアブログ

2019/06/28 54 users ニューラルネットワーク LSTM Keras LABOT 理論

この記事では再帰的ニューラルネットワーク (RNN) について解説をします。RNN の理論的な説明から入り、Keras を用いて実際に RNN を動かしてみます。単純RNN (SimpleRNN), LSTM, 双方向RNN (bidirectional RNN), deep RNN を用いてモデリングをします。なおこの記事はGoogle Colaboratory で動かすことができ、実行しな... 続きを読む

O'Reilly Japan - ゼロから作るDeep Learning ❷

2018/07/05 82 users O'Reilly Japan Deep learning

コンピュータの専門書としては異例の大ヒットを記録した『ゼロから作るDeep Learning』の続編。第2弾の本書では、自然言語処理や時系列データ処理に焦点を当て、ディープラーニングを使ってさまざまな問題に挑みます。word2vecやRNN（リカレントニューラルネットワーク）、LSTMやGRU、seq2seqやAttention……ディープラー... 続きを読む

より高い品質の翻訳を実現するGoogleの「Transformer」がRNNやCNNをしのぐレベルに - GIGAZINE

2017/09/01 75 users Transformer リカレントニューラルネットワーク

ニューラルネットワークの中でも リカレントニューラルネットワーク (RNN)は、言語モデリングや機械翻訳、質疑応答といった言語理解タスクに対する主要なアプローチ方法と見なされています。そんな中、GoogleがRNNよりも言語理解タスクに秀でた新しいニューラルネットワークアーキテクチャ「 Transformer 」を開発しています。 Research Blog: Transformer: A Nov... 続きを読む

AIに架空の歴史を書かせてみた。結果．．．

2017/08/03 57 users 歴史 結果 LSTM Wikipedia 時系列

AIに文章を作らせる方法概要（LSTM） 架空の名前から架空の人物の歴史概要を作成してみました。 やり方としては、wikipediaの人物の概要の部分を抜き出してRNNにトレーニングさせます。 そのトレーニングさせたモデルに対して名前を入力すると、その人物の概要を出力してくれるようにします。 RNNとは、Recurrent Neural Networksの略で、時系列の情報を学習させるためのニュー... 続きを読む

RNNでプログラミング言語の構文エラーを自動修復する衝撃 - DeepAge

2017/06/14 167 users コンパイルエラー SoftW テキストエディタ 構文 最中

コンパイルエラーの問題点 DeepFix Iterative Repair まとめ 参考文献 プログラミング言語のコンパイルエラーを自動で検知して修復することができたら、プログラマの作業時間を減らせる可能性があります。もしくは、テキストエディタがプログラムを書いている最中に、エラーだろうと思われる構文を見つけたときにさり気なく教えてくれたら生産性が著しく向上することも考えられます。 “ Softw... 続きを読む

自然言語処理における畳み込みニューラルネットワークを用いたモデルのまとめ - Qiita

2017/02/03 96 users ニューラルネットワーク CNN まとめ - Qiita 進歩

はじめに 最近、畳み込みニューラルネットワーク(CNN)を用いた自然言語処理が注目を集めています。CNNはRNNと比べて並列化しやすく、またGPUを使うことで畳み込み演算を高速に行えるので、処理速度が圧倒的に速いという利点があります。 この記事は、自然言語処理における畳み込みニューラルネットワークを用いたモデルをまとめたものです。CNNを用いた自然言語処理の研究の進歩を俯瞰するのに役立てば幸いです... 続きを読む

LSTMを超える期待の新星、QRNN - Qiita

2016/12/12 95 users Qiita LSTM 新星 CNN 期待

RNN「これってもしかして」 CNN「わたしたちのモデルが・・・」 「「入れ替わってる～～～！？」」 というわけでQRNN、QUASI-RECURRENT NEURAL NETWORKSとは、RNNの機構をCNNで「疑似的(QUASI)に」実装するというモデルです。これにより、既存のRNN(というかLSTM)が抱えていたいくつかの問題の解決を試みています。 元論文は以下となります。 QUASI-R... 続きを読む

【エヴァンゲリオン】アスカっぽいセリフをDeepLearningで自動生成してみる - Qiita

2015/12/08 158 users Qiita deeplearning エヴァンゲリオン 文章

はじめに エヴァンゲリオン20周年おめでとうございます 加えて、アスカの誕生日もおめでとうございます。(4日遅れ) Twitter Bot等でも使われている、文章の自動生成を流行りのDeepLearningの1種であるリカレントニューラルネットワーク(以下:RNN)を使ってやってみました。 データ集め 何はなくともまずはデータが無いと始まりませんね。 書き起こしも覚悟してましたが、アニメ全セリフを... 続きを読む

Python - ChainerとRNNと機械翻訳 - Qiita

2015/12/05 82 users Qiita Chainer Python 機械翻訳

記事の内容はChainer1.4以前を前提としています。1.5系には様子を見て対応します。 自然言語処理とニューラルネット ここ数年で、自然言語処理の分野でもニューラルネットが非常に頻繁に使われるようになってきました。 自然言語処理で主に解析対象となるのは単語の配列や構文木などで、これらの内包する情報を表現するためにrecurrent neural network1やrecursive neura... 続きを読む

文字だけのRNNに自分の文章150万字を喰わせてみる - shi3zの長文日記

2015/08/31 119 users shi3z 長文日記 文字 自分

おかげ様で本を書けば売れてしまう今日このごろ。皆様いかがお過ごしでしょうか。　正直、本業の合間にブログと日経BPとWireless Wire Newsの連載と、さらにいくつかの雑誌の寄稿とかをこなすのは体力的に辛くなってきました。ワタクシも歳であります。 　原稿というのは実に不思議なものでブログはともかくとすると、他の原稿というのはとにかく文字数が必要なのです。 　この文字数というのは絶対的なユニ... 続きを読む

ディープラーニングが活かすIoT

2015/06/12 322 users IoT pfn ディープラーニング VAE networks

Transcript 1. ディープラーニングが 活かすIoT 岡野原 　⼤大輔 hillbig@preferred.jp Preferred  Networks,  Inc. 2015/06/09 Interop 2015 セミナー 2. アジェンダ l  IoT時代の深層学習 –  RNN –  VAE –  深層強化学習 l  PFNの取り組み –  デモ：深層強化学習  +  データ同... 続きを読む