Text generation web UI で Xwin-LM-13B-V0.1-GPTQ を試す。｜さいぴ

2023/09/23 17 users さい Web UI 圧勝 GPT-4 僅差

この Xwin-LM-13B-V0.1 モデル、13B（130億パラメーター）でありながらAlpacaEval ベンチマークにおいてなんとGPT-4に僅差で勝利している。対ChatGPT戦に至っては圧勝である。 しかもこのモデル、GPTQで量子化したTheBloke/Xwin-LM-13B-V0.1-GPTQ であれば7.26 GBである。 ついに家庭用ゲーミングPCでGPT-4が動く時代が... 続きを読む

ChatGPT（3.5）に匹敵する「Llama 2」をローカルPCで動かしてみた

2023/07/31 21 users chatgpt 米Meta GPT-4 米OpenAI 対抗馬

生成AIのトップランナーといえば、米OpenAIが提供するGPT-4などを使ったChatGPTですが、その対抗馬として期待されているのが米Metaが提供する大規模言語モデル「Llama 2」です。Llama 2ならば自宅のローカルPCでも動作させられるかもしれません。ということで、Text Generation web UIを使って、Llama 2を試してみました... 続きを読む

“PCで自宅ChatGPT”がかなり手軽に！　GUIで簡単導入でき日本語もOKの「Text generation web UI」【イニシャルB】

2023/07/09 25 users GUI イニシャルB Web UI かなり 日本語

続きを読む