Wikipediaの前処理はもうやめて「Wiki-40B」を使う - Ahogrammer

2020/09/26 136 users 分量 単語 Ahogrammer テキスト 自然言語処理

最近の自然言語処理では、大規模なテキストから単語の分散表現や言語モデルを学習させて使っています。学習する際のテキストとしては、分量や利用しやすさの都合からWikipediaが選ばれることが多いですが、その前処理は意外と面倒で時間のかかる作業です。そこで、本記事では比較的最近リリースされた前処理済みのデータ... 続きを読む

単語の分散表現と構成性の計算モデルの発展

2015/05/31 110 users 単語 発展 計算モデル 構成性 直観

Transcript 1. 単語の分散表現と構成性の 計算モデルの発展 東北大学大学院情報科学研究科 岡崎 直観（okazaki@ecei.tohoku.ac.jp） http://www.chokkan.org/ @chokkanorg 2015-05-31 OS-1 (2)意味と理解のコンピューティング 1 2. 分散表現 (Hinton+ 1986) • 局所表現（local represe... 続きを読む