タグ ぬこぬこ
人気順 10 users 50 users 100 users 500 users 1000 usersJ-Moshi を試す｜ぬこぬこ
tl;drJ-Moshi は日本語の Speech to Speech モデルだよ Kyutai Labs の Moshi をベースに日本語で追加学習したモデルだよ 日本人と雑に会話している感じが体験できるよ 相槌が多く深い話は期待できない印象（パラメータ数を考えると仕方ない） VRAM 24GB 以上が必要で macOS は非対応だよ Google Colab の L4 GPU で動作... 続きを読む
Ollama で structured outputs （構造化出力）を試す｜ぬこぬこ
tl;drJSON Schema で指定したフォーマットで出力を制御可能になったよ cURL / Python / JavaScript のそれぞれで試してみたよ 具体的な実用例があったのでそれも動かしてみたよ 使う上での tips や今後どんな機能が追加されるかまとめたよ 公開されたブログの流れに準拠しつつ、意図がズレない範囲で翻訳、解説、コード... 続きを読む
Reflection Llama-3.1 70B を試す｜ぬこぬこ
2024/09/06
12 users
Reflection
Thinking
output
タグ
tl;drReflection Llama-3.1 70B がオープン LLM の中で世界最高性能を謳う Llama 3.1 70B を Reflection-Tuning を用いて事後学習 <output> / <thinking> / (reflection) などのタグを用いて推論 Ollama を使って推論させてみる Reflection Llama-3.1 70B とはHyperWrite の CEO Matt Shumer 氏の公開した Llama 3.1 ベ... 続きを読む