WebAssemblyとWebGPUを用い、Webブラウザ上でStable Diffusion Turbo全体を高速実行可能な推論エンジン「ONNX Runtime Web 1.17」マイクロソフトから登場

2024/03/07 29 users ONNX Runtime WebGPU 高速実行 web 登場

WebAssemblyとWebGPUを用い、Webブラウザ上でStable Diffusion Turbo全体を高速実行可能な推論エンジン「ONNX Runtime Web 1.17」マイクロソフトから登場 ONNX Runtime WebがWebGPUに対応。Webブラウザ上でさらに高速な推論処理が可能になった。Stable Diffusion Turbo全体をWebブラウザ上で高速に実行可能で、RTX4090を... 続きを読む

［速報］マイクロソフト、独自設計のAIチップ「Azure Maia」発表。AIの学習と推論に最適化。Ignite 2023

2023/11/15 6 users 推論 トランジスタ マイクロソフト AIチップ 独自設計

マイクロソフトは開催中の年次イベント「Microsoft Ignite 2023」で、AIの学習や推論処理を高速に実行可能な独自設計のAIアクセラレータチップ「Azure Maia」を発表しました。 「これは5ナノメータプロセスで製造され、1050億のトランジスタで構成される、現在の技術では最大規模のチップの1つだ。そしてチップのみなら... 続きを読む

whisper.cppのCore ML版をM1 MacBook Proで動かす

2023/05/03 14 users whisper README iPhone OpenAI 手順

OpenAIの音声認識モデルであるWhisperの高速推論版であるwhisper.cppが、いつのまにか [1] Core ML対応していた。 Core ML対応したということは、macOS/iOSデバイス（Mac, iPhone, etc...）に搭載されているNeural Engine、GPUを利用して推論処理を行うようになった、ということを意味する。[2] さっそくREADMEの手順を... 続きを読む

WebAssembly版のTensorFlow.jsが登場、Webブラウザでの推論処理を10倍以上高速に実行 － Publickey

2019/12/23 177 users 推論 Publickey JavaScriptライブラリ

WebAssembly版のTensorFlow.jsが登場、Webブラウザでの推論処理を10倍以上高速に実行 Googleがオープンソースで公開している機械学習ライブラリTensorFlowの1つとして、Webブラウザ上で機械学習のモデルの構築、学習、学習済みモデルによる推論の実行などが可能になるJavaScriptライブラリ「TensorFlow.js」があります。... 続きを読む

「いいのがないから内製した」、OKIが18万円のAIエッジコンピューター | 日経 xTECH（クロステック）

2019/10/04 30 users xTech OKI 沖電気工業 IoT クロステック

「IoT（Internet of Things）デバイスが増え、エッジでAI（人工知能）処理を実行できるコンピューターのニーズが高まっている。しかし、現在では価格を含め適当なものがないため内製した」（沖電気工業（OKI） 取締役常務執行役員の坪井正志氏）。 OKIは2019年10月3日、ディープラーニング（深層学習）の推論処理をエッ... 続きを読む

［速報］AWS、独自の機械学習用プロセッサ「AWS Inferentia」発表。高速な推論処理に特化。AWS re:Invent 2018 － Publickey

2018/11/28 118 users ラスベガス 基調講演 Publickey 年次イベント AWS

［速報］AWS、独自の機械学習用プロセッサ「AWS Inferentia」発表。高速な推論処理に特化。AWS re:Invent 2018 Amazon Web Servicesはラスベガスで年次イベント「AWS re:Invent 2018」を開催しています。 イベント3日目のアンディ・ジャシーCEOによる基調講演において、AWSが独自に開発した機械学習用プロセッサ「AWS In... 続きを読む

Intel、世界初のスティックPC型AIアクセラレータ ～PCにつないで推論処理を高速実行、79ドル - PC Watch

2017/07/21 62 users Intel 高速実行 PC Watch 79ドル 世界初

Movidius Neural Compute Stick 　米Intelは20日(米国時間)、スティック型人工知能アクセラレータ「Movidius Neural Compute Stick」を発売した。価格は79ドルで、一部のディストリビュータおよび、7月22日～25日の期間でハワイ ホノルルにて開催されている「Computer Vision and Pattern Recognition (C... 続きを読む

世界初「ディープラーニングの自動設計アルゴリズム」開発　三菱電機 - ITmedia ニュース

2016/10/07 252 users 三菱電機 ディープラーニング 人工知能 低コスト 自動

三菱電機は10月7日、データの特徴を学習して推論処理を行う「ディープラーニング」を自動設計する「ディープラーニング自動設計アルゴリズム」を開発したと発表した。 三菱電機は10月7日、データの特徴を学習して推論処理を行う「ディープラーニング」を自動設計する「ディープラーニング自動設計アルゴリズム」を開発したと発表した。専門知識がなくても、ディープラーニングを活用した人工知能（AI）を短時間・低コスト... 続きを読む