LEIA: 言語間転移学習でLLMを賢くする新しい方法

2024/04/24 18 users LLM 訓練 言語 理化学研究所 テキスト

Studio Ousiaと理化学研究所に所属している山田育矢です。 この記事では、大規模言語モデル（LLM）の性能を向上させる新しい方法であるLEIA（Lightweight Entity-based Inter-language Adaptation）を紹介します。 LLMは言語によって性能に顕著な差があり、訓練に使われるテキストが最も多い英語において特に性能が高い... 続きを読む

日本人中心のチームが開発したAIモデルのLUKE、Transformersに追加される | Ledge.ai

2021/05/28 6 users Luke Bert Transformers PyTorch

画像はHuggingFace Transformersより Studio Ousiaのチーフサイエンティスト山田育矢氏をはじめとするチームが開発したAIモデルのLUKEが、HuggingFace Transformersライブラリの最新バージョン4.6.0に追加された。 TransformersはTensorflowやPyTorchに対応しているライブラリで、BERTやGPT-2などの自然言語処理モデルを... 続きを読む

Wikipedia2vec使ってみた

2018/08/31 10 users エンティティ コンペ Wikipedia 筆者 ベクトル表現

はじめに 本記事は、単語やエンティティのベクトル表現をWikipediaから学習できるツール「Wikipedia2Vec」の紹介と使用してみた感想を伝える記事。 ※ 筆者はWikipedia2Vecの開発等に関わっておらず、Studio Ousiaの関係者でもないです。 Wikipedia2vecについて 著名な学会やコンペにて多くの成果を残しており1自然言語処... 続きを読む

【ディープラーニング】人工知能による質問応答システム「QA Engine」を運営するStudio Ousiaについて入念に調べてみた。 - FINTECH LABO｜ロボアドバイザーとソーシャルレンディングのサービスを

2017/03/04 7 users ソーシャルレンディング ディープラーニング 人工知能 創業者

2017 - 03 - 04 【ディープラーニング】人工知能による質問応答システム「QA Engine」を運営するStudio Ousiaについて入念に調べてみた。 人工知能 質問応答 Studio Ousia QA Engine 人口知能 ディープラーニング 目次 Studio Ousiaとは 会社概要 創業者①：渡邉安弘氏 創業者②：山田育矢氏 慶應義塾大学SFCのインキュベーションプログラム... 続きを読む

人工知能を用いた自然言語解析技術で、国際コンペティションにて二度目の優勝 | Studio Ousia

2015/08/08 52 users 国際コンペティション 人工知能 優勝 自然言語解析技術 二度目

2015年7月26日-31日に中国北京で行われた、世界最大の自然言語処理に関する国際会議ACL（Association for Computational Linguistics)で行われた、Noisy User-generated Text (W-NUT)のコンペティションにて、弊社の提案した手法が他のチームに大差をつけて優勝いたしました。二位はシンガポール科学技術研究庁（Infocomm）、三... 続きを読む

購買頻度が高いキーワードを推測・抽出し、テキストにアフィリエイトリンクを挿入！「Linkplaza for LinkShareベータ版」リリース （1/1）：MarkeZine（マーケジン）

2014/04/18 20 users MarkeZine アフ アフィリエイトリンク マーケジン

4月18日、Studio Ousiaとリンクシェア・ジャパンは、購買頻度が高いキーワードを推測・抽出して、テキストにアフィリエイトリンクを挿入する「Linkplaza for LinkShareベータ版」をリリースした。 Studio Ousiaとリンクシェア・ジャパンは、4月18日、Studio Ousiaが開発したアフィリエイトツール「Linkplaza（リンクプラザ）」を、リンクシェアのアフ... 続きを読む

人工知能でアフィリエイトリンク自動生成「Linkplaza」― テスター募集 :ベンチャーニュース：Venture Now（ベンチャーナウ）

2013/09/09 28 users モテ アフィリエイトリンク スクリプト 購買頻度 ユーザ

Studio Ousiaが簡単なスクリプトを挿入するだけで、記事の中から購買頻度が高いと推測されるキーワードを抽出し、アフィリエイトリンクを自動で生成するブロガー向けアフィリエイトツール「Linkplaza」を開発。年内の一般公開を目指し、100名限定でテストユーザーの募集を開始した。 Linkplaza は、サイトに訪れたユーザが「購買したい」と思うかどうかを独自開発した人工知能技術を用いてモデ... 続きを読む