1ビットLLMの衝撃! 70Bで8.9倍高速　全ての推論を加算のみで!GPU不要になる可能性も

2024/02/28 645 users 推論 春節 1ビットLLM 怒涛 加算

1ビットLLMの衝撃! 70Bで8.9倍高速　全ての推論を加算のみで!GPU不要になる可能性も 2024.02.28 Updated by Ryo Shimizu on February 28, 2024, 16:46 pm JST 2月は中国では春節というお正月があり、春節にはみんな休む。 それもあってか、12月から1月にかけて怒涛の論文発表が行われて毎日「デイリーAIニュース」を配信... 続きを読む

GPU不要・メモリ16GBの本当の一般家庭PCでチャットAIを動作させるライブラリ「GGML」が鋭意開発中、すでにRaspberry Piで音声認識AIを動作させるデモも登場済み

2023/06/07 35 users Bard ライブラリ Raspberry Pi VRAM デモ

ChatGPTやBardなどで利用されているチャットAIは、トレーニングだけでなく動作させるのにも数十～数百GBのVRAMなど非常に高いマシンスペックを要求するのが一般的です。そうした状況を変えるべく、GPU不要でチャットAIを動作させるライブラリ「GGML」の開発が進められています。 ggml.ai http://ggml.ai/ ggerganov/ggml... 続きを読む

やまかず on Twitter: "Stable Diffusionが使える無料でオープンソースのPhotoshopプラグインがv1.1.0にアップデート！ https://t.co/FaOS0YB9OV なんと衝撃のGPU不要（Stable Horde対応）、プ… https://t.co/3Rly3iOb1O"

2023/01/29 14 users Stable Diffusion https t.co 無料

Stable Diffusionが使える無料でオープンソースのPhotoshopプラグインがv1.1.0にアップデート！ https://t.co/FaOS0YB9OV なんと衝撃のGPU不要（Stable Horde対応）、プ… https://t.co/3Rly3iOb1O 続きを読む

MIT Tech Review: GPU不要、汎用CPUで高速深層学習を実現するMIT発スタートアップ

2020/06/21 5 users REVIEW 汎用CPU MIT Tech

MIT教授が立ち上げたスタートアップ企業が、GPUなどの専用ハードウェアを使わず、CPUだけで深層学習モデルを高速実行できる製品を発表した。深層学習のコストを下げるだけでなく、人工知能を広く普及させる効果が期待される。 by Karen Hao2020.06.22 4 1 マサチューセッツ工科大学（MIT）のニール・シャビット教授が会... 続きを読む