1兆 (1T) パラメータ規模のLLMの事前学習検証 - Preferred Networks Research & Development

2024/08/20 9 users LLM Gener Development 子会社 生成AI

Preferred Networksの子会社のPreferred Elements(以下PFE)では7月から約1ヶ月の間、1兆 (1T) パラメータ規模のLLMの事前学習について検証を行っていました。今回の記事ではこの取り組みとその結果について紹介します。 この検証は経済産業省が主導する国内の生成AIの開発力を強化するためのプロジェクト「GENIAC（Gener... 続きを読む

GPT-4を超える日本語性能のLLM、PFN子会社がフルスクラッチで開発　無料トライアルを開始

2024/08/07 9 users モデルマージ トライアル 文章生成能力 商用版 ベース

β版では、PLaMo-100Bをベースに指示学習やモデルマージを行い、文章生成能力を高めた。無料トライアルは個人・法人を問わずに提供し、商用利用も可能。同社は今後、トライアルの検証結果から改善や追加学習などを実施し、商用版の「PLaMo 1.0 Prime」を今秋に発売する。 関連記事 PFNが生成AI新会社「Preferred Elements... 続きを読む

【独自】“国産・生成AI”開発　政府が７者採択　Googleが支援（テレ東BIZ） - Yahoo!ニュース

2024/02/01 17 users 生成AI テレ東BIZ 国産 政府 Yahoo

政府は、国産の生成AIの開発力を強化するため、基盤モデルを開発する国内7者を採択し支援する方針を固めたことが、テレビ東京の取材でわかった。採択されるのは、ABEJA、Preferred Elements、ストックマーク、Sakana AI、Turingの国内スタートアップ企業と、情報・システム研究機構、東京大学の7者。経済産業省が所管す... 続きを読む