word2vec（Skip-Gram Model）の仕組みを恐らく日本一簡潔にまとめてみたつもり - Np-Urのデータ分析教室

2019/06/23 400 users Np-Ur 過去 考え方 自分 時間

久しぶりの記事更新です。 今回はかねてより書いてみたかったword2vecについて。 word2vecはとても面白い考え方なのですが、個人的には仕組みがちょっと捉えづらく、理解するのに結構時間がかかりました。 そこで今回は、過去の自分を救えるように、word2vecをできるだけ簡潔に、そして直観的に理解できるように解説して... 続きを読む

逐次的単語分散表現学習ツールyskipの技術 - Yahoo! JAPAN Tech Blog

2019/04/18 56 users Yahoo JAPAN Tech Blog 技術 学習ツール

Yahoo! JAPAN研究所の鍜治です。本記事では、4月18日に公開されたオープンソースの単語分散表現学習ツールyskipに実装されているアルゴリズムincremental SGNSについて解説したいと思います。 単語分散表現の学習ツールとしてはword2vecなどが有名ですが、incremental SGNSは、そのword2vecに実装されている単語分散表現... 続きを読む

O'Reilly Japan - ゼロから作るDeep Learning ❷

2018/07/05 82 users O'Reilly Japan Deep learning

コンピュータの専門書としては異例の大ヒットを記録した『ゼロから作るDeep Learning』の続編。第2弾の本書では、自然言語処理や時系列データ処理に焦点を当て、ディープラーニングを使ってさまざまな問題に挑みます。word2vecやRNN（リカレントニューラルネットワーク）、LSTMやGRU、seq2seqやAttention……ディープラー... 続きを読む

「赤の他人」の対義語は「白い恋人」 これを自動生成したい物語 - Qiita

2018/05/06 154 users コアラ 対義語 Qiita ゴリラ マーチ

背景 「造語対義語」がちょっと面白いと思ったので、Word2Vecを応用して機械に作らせてみよう！という試み。 やりたいことは、以下のような ギャグ対義語を自動生成 すること。 「赤の他人」⇔「白い恋人」 「ウサギは寂しいと死ぬ」⇔「ゴリラは孤独を背負い生き抜く」 「生きろそなたは美しい」⇔ 「死ねブス」 「冷やし中華始めました」⇔ 「おでんはもう辞めました」 「コアラのマーチ」 ⇔ 「ゴリラのレ... 続きを読む

高次元ベクトルデータ検索技術「NGT」のpythonライブラリ公開のお知らせ - Yahoo! JAPAN Tech Blog

2018/02/19 83 users NGT Yahoo 近傍 Python ソフトウェア

はじめに 検索技術の菅原です。 以前にこのTech Blogで紹介された NGT（Neighborhood Graph and Tree） という高速な近傍探索を実現するソフトウエアのpython用インターフェースが公開されました。pythonは機械学習のライブラリが多く公開されており、より手軽にNGTを組み合わせて使うことができるでしょう。 そこで今回はword2vecのベクトルを近傍探索する実... 続きを読む

「OK word2vec ! "マジ卍"の意味を教えて」 Twitterデータからword2vec実践してみた - これで無理なら諦めて！世界一やさしいデータ分析教室

2018/02/06 62 users Python twitterデータ マジ卍 無理 実践編

2018 - 02 - 06 「OK word2vec ! "マジ卍"の意味を教えて」 Twitterデータからword2vec実践してみた Pythonで実践編 テキストマイニング word2vec Tweet さて、今回はPythonによるword2vecの実践編です！ word2vecって何？？という方は、こちらの記事を一読してから本記事に入って頂くといいかと思います。 www.randpy... 続きを読む

word2vec（Skip-Gram Model）の仕組みを恐らく日本一簡潔にまとめてみたつもり - これで無理なら諦めて！世界一やさしいデータ分析教室

2018/01/16 400 users 無理 世界一やさしいデータ分析教室 考え方 記事更新 時間

2018 - 01 - 16 word2vec（Skip-Gram Model）の仕組みを恐らく日本一簡潔にまとめてみたつもり 理論 word2vec テキストマイニング Tweet 久しぶりの記事更新です。 今回はかねてより書いてみたかった word2vec について。 word2vecはとても面白い考え方なのですが、個人的には仕組みがちょっと捉えづらく、理解するのに結構時間がかかりました。 そ... 続きを読む

サブカルのためのword2vec - Technology of DeNA

2018/01/12 221 users サブカル Technology of DeNA

はじめに AIシステム部AI研究開発グループ アルバイトの五十嵐です。（ @bonprosoft , ポートフォリオ： http://vbcpp.net/about/ ） 現在、東北大学大学院の修士1年で、大学院では（自然言語ではなく）高速な文字列処理アルゴリズムに関する研究を行っています。 私は2017年9月上旬から3週間ほど、アルバイト兼インターンとしてハッカドールチーム内のNLPのタスクに取... 続きを読む

男と女が寄りそうとどうなるのか - Qiita

2017/12/19 132 users アダム イブ Qiita 神様 奥さん

この記事は Go Advent Calendar 2017 の記事です。 アダムとイブ 男と女が寄りそうとどうなるのか。これは神様がアダムとイブという異なる性を地に授けた時から既に決まっている事なのもしれません。 このお題を解き明かしたい。Go 言語を使って。 ネタとしては以下の記事を参考にしました。 どうしたら「彼女」から「奥さん」になれるかを『Word2Vec』に聞いてみた | 人工知能ニュー... 続きを読む

どうしたら「彼女」から「奥さん」になれるかを『Word2Vec』に聞いてみた | 人工知能ニュースメディア AINOW

2017/10/31 139 users AINOW 薬指 左手 婚約指輪 奥さん

工学部女子大生のranranです。 私は彼氏のことが大好きで、いつも彼氏のことばかり考えています。もちろん、将来的には彼氏の「奥さん」へと昇格したいと考えています。しかし、このまま時間の流れに身を任せていてれば、自然と「彼女」から「奥さん」になれるのでしょうか？ 非常に不安です。 既婚者に聞いてみた 不安で居ても立っても居られなくなったので、AINOW編集長であり… 左手の薬指に婚約指輪をキラリと... 続きを読む

機械学習初心者向け、Word2VecとDoc2Vecでディープラーニングやってみた - paiza開発日誌

2017/03/16 89 users Doc2Vec ディープラーニング paiza開発日誌 秋山

2017 - 03 - 16 機械学習初心者向け、Word2VecとDoc2Vecでディープラーニングやってみた 機械学習 秋山です。 機械学習 が人気ですが、「Word2Vec」「Doc2Vec」という、文章などを分析する ニューラルネットワーク モデルを知っていますか？ すごーく簡単に言うと、「Word2Vec」は単語の類似度のベクトル、「Doc2Vec」は文章の類似度のベクトルを表現します。... 続きを読む

文章をベクトル化して類似文章の検索 - Qiita

2017/02/27 267 users Doc2Vec Qiita 単語 実装 コンピュータ

Doc2Vecで類似文章を検索してみたので、実装を紹介します。 Doc2Vecとは コンピュータが自然言語を処理するためには、まず人間の言葉をコンピュータで扱える値にする必要があります。 単語の意味をベクトル化する手法として Word2Vec が存在します。 詳しくはリンク先がとてもわかりやすいのですが、ざっくり言うと前後n単語のリストでその単語を表現します。 こうすることで、例えば「犬」と「猫」... 続きを読む

【word2vec】会社のクチコミを自然言語処理した結果を可視化してみる - Qiita

2017/01/23 90 users 単語 メソッド 分布図 ベクトル表現 次元

単語と遊ぶ① 分布図を書いてみる 分布図を書くメソッドを以下のように定義しました。 通常、単語のベクトル表現は100次元とか300次元とかでモデルに学習させます。 それを次元圧縮して2次元に落とし込んだ後に可視化を行っています。 from sklearn.decomposition import PCA import matplotlib.pyplot as plt def draw_word_s... 続きを読む

Word2Vecを用いた類義語の抽出が上手く行ったので、分析をまとめてみた - Qiita

2016/12/22 121 users Qiita Speee 類義語 コーディング ロジック

はじめに こんにちは、Speeeでデータサイエンティストをしている @To_Murakami と申します。エンジニアではないのですが、コーディングを含めた分析例を発信しようと思い、企業のAdvent Calendarに参加させていただきました。 12月も暮れに差し掛かってきましたね。本日は、Word2Vec(ワードトゥベック)という自然言語処理を活用した分析例を紹介します。 このロジックを実装した... 続きを読む

【転職会議】クチコミをword2vecで自然言語処理して会社を分類してみる - Qiita

2016/12/19 109 users データアナリスト 評点 現状 Qiita 日本最大級

はじめに LivesenseAdventCalendar 2016 の20日目を担当する @n_uchida です。 現在、転職会議という転職クチコミサービスのデータアナリストを担当しております。 転職会議 は会社のクチコミが数百万件集まっている日本最大級の転職クチコミサービスです。現状はクチコミや評点を表示しているだけなのですが、今後はクチコミを自然言語処理などで分析して今までは手に入らなかった... 続きを読む

義理といえば？クックパッドのレシピをword2vecで料理してみた - クックパッド開発者ブログ

2015/02/27 86 users クックパッド 義理 chezou 有賀 レシピ

2015-02-27 義理といえば？クックパッドのレシピをword2vecで料理してみた 会員事業部の有賀 (@chezou) です。 クックパッドは、先日学術機関向けにレシピと献立のデータを公開しました。 研究者の方々にクックパッドのレシピ・献立を使っていただくことで、料理に関する研究の発展に貢献できればと思いデータ公開に至りました。 今回は、その中でもクックパッドのレシピデータを使った分析事例... 続きを読む

パソコン工房のPCで遊ぼう第2弾！ あんちべさんと一緒に Rakuten MA で形態素解析 - はてなニュース

2015/01/08 382 users あんちべさん 形態素解析 パソコン工房 あらすじ 全面

（これまでのあらすじ）前回、パソコン工房から「統計処理用のPCのPR企画をやりたい」と依頼を受けて、はてなエンジニアと一緒にword2vecで遊んでみた編集部。読者の皆さまにも好評だったので、調子に乗って第2弾を実施することにしました。今回は「"word2vec"で艦これ加賀さんから乳を引いてみる」で一世を風靡した、あの統計屋さんが全面協力です！ 記事の最後にはプレゼントのお知らせも。 （※この記... 続きを読む

自然言語処理に新風を巻き起こしたWord2Vecとは何か - 日経BigData

2014/11/12 336 users アルゴリズム 日経BigData 新風 ベクトル空間 応用

言語データの分析と応用のために自然言語処理と呼ばれる分野で長年研究が行われて来た。同分野が昨年から大きく沸き立っている。米グーグルの研究者であるトマス・ミコロフ氏らが提案した手法「Word2Vec」が、いくつかの問題について従来のアルゴリズムよりも飛躍的な精度向上を可能にしたのだ。 この手法によって得られるベクトル空間には、今まで定量的に捉えることの難しかった言葉の「意味」を極めて直接的に表現して... 続きを読む

Word2vecの並列実行時の学習速度の改善

2014/07/04 75 users さきがけ 学習速度 CREST 改善 岡崎

Word2vecの並列実行時の学習速度の改善 Presentation Transcript Word2vecの並列実行時の 学習速度の改善 岡崎 直観1,2 乾 健太郎1,3 1 東北大学大学院情報科学研究科 2 JST戦略的創造研究推進事業「さきがけ」 3 JST戦略的創造研究推進事業「CREST」 2014-07-04 Word2vecの並列実行時の学習速度の改善 1 word2vec祭り ... 続きを読む

「word2vecによる自然言語処理」を出版しました - 西尾泰和のはてなダイアリー

2014/06/05 75 users 西尾泰和 オライリー 言語処理 論文 はてなダイアリー

オライリー・ジャパンから「word2vecによる自然言語処理」という電子書籍を出版しました。予定外のドタバタがあってブログで紹介するのが遅くなってしまいましたが、その間にオライリーのEbook Store Sales Rankingでは1位になっていました。word2vecは2013年に論文が出たばかりの新しい技術です。色々な方がブログで取り上げていて、興味をもった方も多いと思います。知らない方の... 続きを読む

O'Reilly Japan - word2vecによる自然言語処理

2014/05/16 186 users O'Reilly Japan コーパス 言語処理 付録 弱点

Tomas Mikolovらによって提案されたニューラルネットワーク（CBOW, Skip-gram）のオープンソース実装word2vecについて、基本的な使い方を体験し、さらにその仕組みを学ぶ書籍です。 基本的な使い方から、自分の好きなコーパスの作り方、登場の背景、仕組み、さらには応用例や弱点についてもコンパクトなボリュームで概観できます。付録にはword2vecの出力結果を主成分分析を使って可... 続きを読む

Python - Perl + Java = ？ はてなブログのデータとパソコン工房のPCを使って「word2vec」で遊んでみた - はてなブックマークニュース

2014/04/22 530 users perl BTOパソコン マシン Java Python

統計処理用のマシンを使って、自然言語処理で遊ぼう！ BTOパソコンで有名な「パソコン工房」から「統計処理用のPCを企画しているので、何かできないか」と相談された編集部は、はてなエンジニアと相談して「word2vec」を使って遊んでみることに。はてなブログのデータとかっこいいパソコンを使って、最新の自然言語処理で楽しむ様子をお楽しみください！ 記事の終わりには2TBの外付けHDDが当たるプレゼントの... 続きを読む

意識高すぎて休日にword2vecをいじるしかやることなかった - 驚異のアニヲタ社会復帰への道

2014/04/20 66 users 驚異 アニヲタ社会復帰 休日 意識

R, 統計, Python, 医学word2vecという、ニューラルネットワーク的なことを用いて文書集合からコーパスを構築して、単語のベクトル演算ができるようになる手法があるらしい。艦これ加賀さんから乳を引いてみるという話を聞いてスゲー!!ってなったので、Twitterでやってみたとか英辞郎でやってみたとかいろいろあるので、何番煎じだよｿﾚｪ…って思われそうだけれどもやってみる。こちらを参考にwo... 続きを読む

ニューラルネットによる単語のベクトル表現の学習 〜 Twitterのデータでword2vecしてみた - 病みつきエンジニアブログ

2014/03/11 176 users Wor ニューラルネット Twitter 理論 印象

2014-03-11 ニューラルネットによる単語のベクトル表現の学習 〜 Twitterのデータでword2vecしてみた 最近にわかにword2vecが流行っています。ので、乗っかってみました的記事です。 理論に関してはあまり詳しくしらないので、印象だけで語っているかもしれません。何かありましたらTwitterかコメント等でご指摘いただけますと幸いです。 ちなみに、失敗した話が多いです。 wor... 続きを読む

自然言語処理の最新手法"word2vec"で艦これ加賀さんから乳を引いてみる - あんちべ！

2014/03/09 804 users テキストマイニング アンチ KING Man 手順

2014-03-10 自然言語処理の最新手法"word2vec"で艦これ加賀さんから乳を引いてみる テキストマイニング プログラミング Python 自然言語処理 概要 この記事は自然言語処理という分野の最新手法word2vec を利用して誰でも遊べるようにするための手順を説明するものです。 word2vecを利用すると意味の計算が実現できます。 例えば"king"から"man"を引いて"woma... 続きを読む