タグ TensorRT
人気順 10 users 50 users 100 users 500 users 1000 users【西川和久の不定期コラム】 Stable Diffusion高速化技術続々登場!TensorRT、SSD-1B、LCMなどを試してみる
【TensorRT】Stable Diffusion Web UIを倍速にできるNVIDIA製の神AIツール | WEEL
Stable-Diffusion-WebUI-TensorRTは、Stable-Diffusion-WebUIでTensorRTを使用するための拡張機能で、RTXGPU上で最高のパフォーマンスで利用するためのものです。 その速度は超高速で、従来高速といわれていた手法よりさらに2倍以上も高速です! どれだけ速いんだよって話ですよね。 今回は、Stable-Diffusion-WebUI-Ten... 続きを読む
NVIDIA、Stable Diffusionを倍速にするTensorRT。新ドライバで対応
TensorRTを使ってStableDiffusionを爆速にする
どうもだだっこぱんだです。今までずっとjs,tsとかを触ってましたが、最近はpythonかなり触ってます。 AIなんも知らない人間ですがAIについて書いてみました。 まずは結果を 右は普通の生成方法。Diffusersにattention_slicingを有効にして生成した結果です。 真ん中はxformersを有効にした場合。 左は今から紹介するTen... 続きを読む
TensorRT で物体検出・姿勢推定はどれくらい速くなる? - OPTiM TECH BLOG
今回は、TensorRT で物体検出・姿勢推定はどれくらい速くなるのかを紹介します。せっかちな人のために、TensorRT による効果を先にかいつまんで書いておきます。 RefineDet という物体検出モデルでは 38 fps が 68 fps に向上 (x1.8 Faster!) OpenPose という複数人物姿勢推定モデルでは 10 fps が 25 fps に向上 (x2.5 ... 続きを読む