vLLMで独自実装モデルを高速推論させる

2024/12/04 9 users vLLM LLM Qwen Llama マルチモーダルモデル

はじめに チューリング生成AIチームの荒居です。 この記事は生成AIアドベントカレンダー2024の4日目の記事です。 この記事では、動画生成モデルを題材に、vLLMを用いて独自のマルチモーダルモデルを推論させる方法について解説します。vLLMはLLMの高速推論・サービングのライブラリで、LlamaやQwenなどの有名なモデルに... 続きを読む

Airbnb、新CTOをGoogleから引き抜く | TechCrunch Japan

2018/10/26 10 users Airbnb 新CTO TechCrunch JAPAN

Airbnbは2年以内のどこかで新規公募を予定しているが、これに先立ち新たな最高技術責任者（CTO）を連れてきた。Googleでエンジニアリング、アプリケーションストレージ、インデキシング、サービングなどを担当した前VPのAristotle Baloghは、11月半ばからAirbnbに加わる。 CTO職は、Airbnbの共同創業者Nathan Blecharczy... 続きを読む

海外での日本の弁当のハードルが高すぎると俺の中で話題　:ハムスター速報

2012/11/03 26 users ハードル ハムスター速報 弁当 海外 話題

海外での日本の弁当のハードルが高すぎると俺の中で話題　 Tweet カテゴリ☆☆☆ Bentoは、 - それはちょうど夕食ではない、それは儀式の芸術だ。 日本人は信じられないほどの高みにこの芸術を提供した。 それは東洋で、どんな食事に不可欠な要素は、サービングの美しさなので、日本の伝統的な食事の準備は常に創造的であることが知られている。 ロシア語 グーグル翻訳まま source : http://... 続きを読む