さくらインターネット、AI半導体1万個調達へ　従来計画の5倍 - 日本経済新聞

2024/04/19 6 users 従来計画 さくらインターネット 日本経済新聞 5倍 人工知能

さくらインターネットは19日、米エヌビディアなどから画像処理半導体（GPU）8000個を追加調達すると発表した。人工知能（AI）の開発に使うスーパーコンピューターの整備に向け、GPUを組み込んだ高性能サーバーを増やす。従来計画と合わせて2027年末までに合計1万個のGPUを購入する。さくらネットは23年以降、エヌビディ... 続きを読む

生成AIでGPUがいらなくなる？　業界を揺るがす「1ビットLLM」とは何か、識者に聞いた

2024/04/16 41 users 識者 1ビットLLM 生成AI LLM 業界

ではそもそも“1bit”とは何が1bitなのか、どうして1bitになるとGPUが不要になるのか。LLMでGPUが不要になるとどんな世界が訪れるのか。オーダーメイドによるAIソリューション「カスタムAI」の開発・提供を行うLaboro.AIの椎橋徹夫CEOに聞いた。 プロフィール：椎橋徹夫 米国州立テキサス大学理学部卒業後、ボストンコンサ... 続きを読む

「2025～2026年にはAIモデルの学習費用が1兆円を超えて人類に脅威をもたらすAIが登場する」とAI企業・AnthropicのCEOが予言

2024/04/15 10 users 予言 CEO 脅威 人類 AIモデル

AIの開発にはGPUやAIアクセラレータからなる大規模な計算資源が必要です。AI企業Anthropicのダリオ・アモデイCEOはAIモデルの学習費用が今後数年で約100億ドル(約1兆5400円)に達すると推測しています。 Transcript: Ezra Klein Interviews Dario Amodei - The New York Times https://www.nytimes.com/2024/04/12/podcas... 続きを読む

LightGBMをGPUで回すと結果の再現性が得られない - Qiita

2024/04/14 12 users Qiita LightGBM CPU たび 概要

概要 タイトルの通りなのだが、LightGBMをGPUで回すと結果の再現性が得られないことに気づいた。 CPUの場合は乱数seedを42などに固定すれば、同じ条件で何回回しても毎回同じ結果が得られる。 しかし、GPUの場合は乱数seedを固定しても回すたびに結果が変わってしまうのだ。 なぜ再現性がないのか？ この問題はLightGBM... 続きを読む

CPU・GPU・ストレージの性能をワンクリックで測定できるフリーソフト「CrystalMark Retro」レビュー、CrystalDiskMark作者の新作で簡単操作でPCの性能を測定可能

2024/04/07 19 users ストレージ ワンクリック CrystalDiskMark

CPUやGPU、ストレージの性能を簡単に測定できるベンチマークソフト「CrystalMark Retro」が2024年3月31日にリリースされました。CrystalMark Retroはストレージベンチマークソフト「CrystalDiskMark」やストレージ管理ソフト「CrystalDiskInfo」といった定番ソフトの作者であるhiyohiyo氏の新作ということで、CrystalMar... 続きを読む

［GDC 2024］Armが推奨するレイトレーシング時代のスマートフォンゲームグラフィックスとは？

2024/03/27 8 users ARM Imagination Qualcomm SoC

［GDC 2024］Armが推奨するレイトレーシング時代のスマートフォンゲームグラフィックスとは？ ライター：西川善司 Armの「Immortalis-G715」やQualcommの「Adreno 740」，古くはImaginationの「PowerVR Wizard」など，スマートフォン向けのSoC（System-on-a-Chip）に組み込まれたGPUが，レイトレーシング対応となって久... 続きを読む

AI分野でのNVIDIA一強状態を崩すためにIntel・Google・富士通・Armなどが参加する業界団体がCUDA対抗のAI開発環境を構築中

2024/03/26 25 users ARM CUDA NVIDIA Intel 富士通

NVIDIAはAI開発に使われるGPUで大きなシェアを獲得しているほか、ソフトウェア開発および実行環境「CUDA」もAIの開発現場で広く採用されています。そんなNVIDIAの一人勝ち状態に対抗するべく、Intelや富士通、Google、Armなどのテクノロジー企業が参加する業界団体「Unified Acceleration Foundation(UXL Foundation)」... 続きを読む

さくらインターネット、国産クラウドでAmazonに挑む　現場ルポ - 日本経済新聞

2024/03/23 25 users 現場ルポ 国産クラウド Amazon さくらインターネット

さくらインターネットが国内のクラウド事業で外資大手に挑む。北海道石狩市内のデータセンター（DC）にGPU（画像処理半導体）を搭載し、生成AI（人工知能）に対応したクラウドサービスを始めた。日本のクラウド市場は米アマゾンが半分近くのシェアを握る。「政府クラウド」の提供事業者に国内勢で初めて選ばれた国産クラ... 続きを読む

【GDC 2024】CPUを使わずにGPUが自発的に描画するパイプライン「Work Graph」がDirectX 12に正式採用

2024/03/20 15 users CPU パイプライン 正式採用 DirectX 12 西川善司

【GDC 2024】CPUを使わずにGPUが自発的に描画するパイプライン「Work Graph」がDirectX 12に正式採用 ライター：西川善司 セッションタイトルを訳すなら，「ようこそ，未来のGPUプログラミングモデル『GPU Work Graph』へ」 米国時間2024年3月18日に行われたGDC 2024の技術セッション「Advanced Graphics Summit: GPU Wo... 続きを読む

NVIDIA、GPUプラットフォーム「Blackwell」発表　「兆パラメータ規模のAIモデル実現」

2024/03/18 21 users Hopper トランジスタ 現行 NVIDIA 新GPU

プラットフォームに搭載する「GB200 Grace Blackwell Superchip」は、新GPU「B200」（2080億個のトランジスタを搭載し、現行の「H100」と比較して、AI向けの作業で5倍の処理能力を発揮するGPU）を2基と1基のGrace CPUを組み合わせたもの。 NVIDIAによると、1兆8000億パラメータのAIモデルをトレーニングするには、Hopper... 続きを読む

「NVIDIA H100 GPU」を2万4576基搭載して「Llama 3」などのトレーニングに活用されているGPUクラスターの情報をMetaが公開

2024/03/13 14 users Meta Infrastructure クラスター ＡＩ開発

「AI開発をリードするということは、ハードウェアインフラへの投資でリードするということ」として、MetaがAIのための投資として行っている、2万4000基以上のGPUを搭載したデータセンタースケールのクラスターの情報を明らかにしました。 Building Meta’s GenAI Infrastructure - Engineering at Meta https://engineeri... 続きを読む

Raspberry Pi PicoでGPUを作る。element14が動画を公開

2024/03/12 16 users Element14 Raspberry Pi Pico

続きを読む

メタデータラボ株式会社、日本最大のLLMコミュニティ『ローカルLLMに向き合う会』へGPU/HPCサーバーを無償提供

2024/03/06 7 users ローカルLLM GaN 無償提供 生成モデル 日本最大

メタデータラボ株式会社、日本最大のLLMコミュニティ『ローカルLLMに向き合う会』へGPU/HPCサーバーを無償提供 【メタデータラボ株式会社とは】 2018年6月からGPU/HPCサーバーの開発、製造、販売を開始しており、「GAN」などの生成モデルの研究を進めており、2021年5月からGPU/HPCサーバーを稼働させられる高負荷データ... 続きを読む

NVIDIAが「消費電力1000Wの爆熱GPU」を開発中か

2024/03/06 19 users NVIDIA Dell https 発言 世界有数

世界有数のPCメーカーであるDellの決算発表会で「NVIDIAが消費電力1000WのGPUを開発している」という旨の発言が飛び出しました。 Exhibit 99.1 Earnings 8K Q4 FY24 - Q4 FY24 Financial Results Press Release.pdf (PDFファイル)https://investors.delltechnologies.com/static-files/12b9be7b-2d4c-4d63-b7d3-8bb46772... 続きを読む

【やじうまPC Watch】 ルーターにGPUを接続して「真のゲーミングルーター」を作った強者登場

2024/03/06 8 users ゲーミングルーター ルーター 強者登場

続きを読む

Microsoft、超解像ゲームのための統一API「DirectSR」を発表 ～NVIDIA、AMD、Intelに対応／GPUが自律的にワークフローを管理する「Work Graphs API」と併せて「GDC2024」で

2024/03/04 6 users DirectSR NVIDIA AMD ワークフロー 発表

続きを読む

GPUからの脱却と「AI半導体」の可能性【西田宗千佳のイマトミライ】

2024/03/04 24 users イマトミライ 脱却 西田宗千佳 AI半導体 可能性

続きを読む

【論文丁寧解説】BitNet b1.58とは一体何者なのか - Qiita

2024/03/01 10 users NVIDIA Qiita Microsoft 株価 論文

はじめに この記事では、巷で「この技術によりGPUが不要になるかもしれない、NVIDIAなどの半導体関係の株価が...」と話題になっている、BitNet b1.58についての論文を丁寧に解説します。このMicrosoftが先日発表したBitNet b1.58はそのエネルギー効率の凄まじさから2024年初めの大きな技術改革となるかもしれません！！ ... 続きを読む

Google Cloud、GPUに頼ることなくローカルのCPUとメモリ上でLLMの活用を可能にする「localllm」を公開

2024/02/15 7 users LLM HuggingFace フレームワーク ライブラリ

localllmは、コマンドラインユーティリティ経由でHuggingFaceから量子化モデルにアクセス可能なツールとライブラリのセットで、Google Cloud Workstation内にてCPUとメモリ上でLLMをローカル実行するための、包括的なフレームワークとツールを提供する。localllmの利用によって、GPUへの依存が排除されアプリケーション... 続きを読む

無料のチャットボットAI「Chat With RTX」をNVIDIAがリリース、GeForce RTX GPU搭載PCでローカル動作が可能

2024/02/14 17 users NVIDIA VRAM チャットボットAI ローカル動作 無料

NVIDIAがGeForce RTX GPUで動作する技術デモ「Chat with RTX」を無料でリリースしました。ユーザーはChat with RTXを独自のコンテンツでパーソナライズでき、システム要件はVRAMが8GB以上のRTX 30シリーズ以降のGPUを搭載したWindowsマシンとなっています。 Chat with RTX Now Free to Download | NVIDIA Blog https://b... 続きを読む

【特集】 「パルワールド」を快適に遊ぶならGPUはどれがいい？GeForceの最新と旧世代で比較してみた

2024/01/23 14 users GeForce パルワールド 旧世代 特集 最新

続きを読む

Apple・Qualcomm・AMDのGPUからAIとの会話が漏洩する不具合「LeftoverLocals」が発見される

2024/01/17 7 users AMD GPUメモリ プロセス 会話 セキュリティ会社

セキュリティ会社のTrail of Bitsが、Apple・Qualcomm・AMDのGPU上のプロセスによって作成されたGPUメモリからデータを復元することを可能にする脆弱(ぜいじゃく)性「LeftoverLocals(CVE-2023-4969)」についての調査結果を公表しました。 LeftoverLocals https://leftoverlocals.com/ New Flaw in Apple, AMD, and Qualc... 続きを読む

1つのGPU／CPUで推論可能な超軽量LLM「tsuzumi」を24年3月から提供へ

2024/01/16 5 users tsuzumi 推論 LLM CPU gpt-3

1つのGPU／CPUで推論可能な超軽量LLM「tsuzumi」を24年3月から提供へ：学習コストは「GPT-3」の300分の1に（1/2 ページ） NTTが、独自開発した大規模言語モデル（LLM）「tsuzumi」を2024年3月から提供開始する。tsuzumiは、パラメーターサイズが6億または70億と軽量でありながら、世界トップクラスの日本語処理性能を持... 続きを読む

「GPUとVRAMを抜き取って光る板と化したGeForce RTX 4090」が中古市場で完動品と偽って売られている、中国の規制回避AIボード工場から流れた品物か？

2024/01/11 7 users VRAM 部類 品物 完動品 GeForce RTX

グラフィックボードはPCパーツの中でも高価な部類に入るため、なるべく費用を抑えるために中古のグラフィックボードを狙っている人も多いはず。しかし、ハイエンドグラフィックボード「GeForce RTX 4090」の中古品をオンラインショップで購入した結果、「GPUとVRAMを抜き取ったGeForce RTX 4090」が届いたという恐ろしい... 続きを読む

Ryzen 8000GシリーズにRadeon RX 7600 XT 16GB発表……AMDのCES 2024まとめ

2024/01/09 5 users AMD 自作er 本稿 トピック コンシューマー向けCPU

2024年1月9日、AMDはCES 2024に連動した講演においてさまざまな発表を行った。本稿は自作erが特に興味を持つであろうコンシューマー向けCPUとGPUに関連するトピックをまとめたものだ。 なお、これは事前にプレス向けに共有された資料を基に執筆されているため、もしかしたら資料にないトピックも飛び出しているかもしれ... 続きを読む