「ゼロからGPU開発」に経験なし＆わずか2週間で成功した猛者が登場

2024/04/30 30 users 猛者 It was GPU開発 コード 創設者

コードなしでWeb3コンテンツなどを開発することができるプラットフォーム・thirdwebの創設者であるadammaj氏が、「経験なしで2週間でゼロからGPUを構築した」と報告しています。 I've spent the past ~2 weeks building a GPU from scratch with no prior experience. It was way harder than I expected. Progress trac... 続きを読む

GPUなしでもできる画像生成AI ～Web UI「A1111」の環境構築と利用方法を伝授【生成AIストリーム】

2024/04/24 12 users 生成AIストリーム 画像生成AI Web UI 環境構築

続きを読む

さくらインターネット、AI半導体1万個調達へ　従来計画の5倍 - 日本経済新聞

2024/04/19 13 users 従来計画 さくらインターネット 日本経済新聞 5倍 人工知能

さくらインターネットは19日、米エヌビディアなどから画像処理半導体（GPU）8000個を追加調達すると発表した。人工知能（AI）の開発に使うスーパーコンピューターの整備に向け、GPUを組み込んだ高性能サーバーを増やす。従来計画と合わせて2027年末までに合計1万個のGPUを購入する。さくらネットは23年以降、エヌビディ... 続きを読む

生成AIでGPUがいらなくなる？　業界を揺るがす「1ビットLLM」とは何か、識者に聞いた

2024/04/16 41 users 識者 1ビットLLM 生成AI LLM 業界

ではそもそも“1bit”とは何が1bitなのか、どうして1bitになるとGPUが不要になるのか。LLMでGPUが不要になるとどんな世界が訪れるのか。オーダーメイドによるAIソリューション「カスタムAI」の開発・提供を行うLaboro.AIの椎橋徹夫CEOに聞いた。 プロフィール：椎橋徹夫 米国州立テキサス大学理学部卒業後、ボストンコンサ... 続きを読む

「2025～2026年にはAIモデルの学習費用が1兆円を超えて人類に脅威をもたらすAIが登場する」とAI企業・AnthropicのCEOが予言

2024/04/15 10 users 予言 CEO 脅威 人類 AIモデル

AIの開発にはGPUやAIアクセラレータからなる大規模な計算資源が必要です。AI企業Anthropicのダリオ・アモデイCEOはAIモデルの学習費用が今後数年で約100億ドル(約1兆5400円)に達すると推測しています。 Transcript: Ezra Klein Interviews Dario Amodei - The New York Times https://www.nytimes.com/2024/04/12/podcas... 続きを読む

LightGBMをGPUで回すと結果の再現性が得られない - Qiita

2024/04/14 12 users Qiita LightGBM CPU たび 概要

概要 タイトルの通りなのだが、LightGBMをGPUで回すと結果の再現性が得られないことに気づいた。 CPUの場合は乱数seedを42などに固定すれば、同じ条件で何回回しても毎回同じ結果が得られる。 しかし、GPUの場合は乱数seedを固定しても回すたびに結果が変わってしまうのだ。 なぜ再現性がないのか？ この問題はLightGBM... 続きを読む

CPU・GPU・ストレージの性能をワンクリックで測定できるフリーソフト「CrystalMark Retro」レビュー、CrystalDiskMark作者の新作で簡単操作でPCの性能を測定可能

2024/04/07 19 users ストレージ ワンクリック CrystalDiskMark

CPUやGPU、ストレージの性能を簡単に測定できるベンチマークソフト「CrystalMark Retro」が2024年3月31日にリリースされました。CrystalMark Retroはストレージベンチマークソフト「CrystalDiskMark」やストレージ管理ソフト「CrystalDiskInfo」といった定番ソフトの作者であるhiyohiyo氏の新作ということで、CrystalMar... 続きを読む

AI分野でのNVIDIA一強状態を崩すためにIntel・Google・富士通・Armなどが参加する業界団体がCUDA対抗のAI開発環境を構築中

2024/03/26 25 users ARM CUDA NVIDIA Intel 富士通

NVIDIAはAI開発に使われるGPUで大きなシェアを獲得しているほか、ソフトウェア開発および実行環境「CUDA」もAIの開発現場で広く採用されています。そんなNVIDIAの一人勝ち状態に対抗するべく、Intelや富士通、Google、Armなどのテクノロジー企業が参加する業界団体「Unified Acceleration Foundation(UXL Foundation)」... 続きを読む

さくらインターネット、国産クラウドでAmazonに挑む　現場ルポ - 日本経済新聞

2024/03/23 25 users 現場ルポ 国産クラウド Amazon さくらインターネット

さくらインターネットが国内のクラウド事業で外資大手に挑む。北海道石狩市内のデータセンター（DC）にGPU（画像処理半導体）を搭載し、生成AI（人工知能）に対応したクラウドサービスを始めた。日本のクラウド市場は米アマゾンが半分近くのシェアを握る。「政府クラウド」の提供事業者に国内勢で初めて選ばれた国産クラ... 続きを読む

【GDC 2024】CPUを使わずにGPUが自発的に描画するパイプライン「Work Graph」がDirectX 12に正式採用

2024/03/20 15 users CPU パイプライン 正式採用 DirectX 12 西川善司

【GDC 2024】CPUを使わずにGPUが自発的に描画するパイプライン「Work Graph」がDirectX 12に正式採用 ライター：西川善司 セッションタイトルを訳すなら，「ようこそ，未来のGPUプログラミングモデル『GPU Work Graph』へ」 米国時間2024年3月18日に行われたGDC 2024の技術セッション「Advanced Graphics Summit: GPU Wo... 続きを読む

NVIDIA、GPUプラットフォーム「Blackwell」発表　「兆パラメータ規模のAIモデル実現」

2024/03/18 21 users Hopper トランジスタ 現行 NVIDIA 新GPU

プラットフォームに搭載する「GB200 Grace Blackwell Superchip」は、新GPU「B200」（2080億個のトランジスタを搭載し、現行の「H100」と比較して、AI向けの作業で5倍の処理能力を発揮するGPU）を2基と1基のGrace CPUを組み合わせたもの。 NVIDIAによると、1兆8000億パラメータのAIモデルをトレーニングするには、Hopper... 続きを読む

「NVIDIA H100 GPU」を2万4576基搭載して「Llama 3」などのトレーニングに活用されているGPUクラスターの情報をMetaが公開

2024/03/13 14 users Meta Infrastructure クラスター ＡＩ開発

「AI開発をリードするということは、ハードウェアインフラへの投資でリードするということ」として、MetaがAIのための投資として行っている、2万4000基以上のGPUを搭載したデータセンタースケールのクラスターの情報を明らかにしました。 Building Meta’s GenAI Infrastructure - Engineering at Meta https://engineeri... 続きを読む

Raspberry Pi PicoでGPUを作る。element14が動画を公開

2024/03/12 16 users Element14 Raspberry Pi Pico

続きを読む

NVIDIAが「消費電力1000Wの爆熱GPU」を開発中か

2024/03/06 19 users NVIDIA Dell https 発言 世界有数

世界有数のPCメーカーであるDellの決算発表会で「NVIDIAが消費電力1000WのGPUを開発している」という旨の発言が飛び出しました。 Exhibit 99.1 Earnings 8K Q4 FY24 - Q4 FY24 Financial Results Press Release.pdf (PDFファイル)https://investors.delltechnologies.com/static-files/12b9be7b-2d4c-4d63-b7d3-8bb46772... 続きを読む

GPUからの脱却と「AI半導体」の可能性【西田宗千佳のイマトミライ】

2024/03/04 24 users イマトミライ 脱却 西田宗千佳 AI半導体 可能性

続きを読む

【論文丁寧解説】BitNet b1.58とは一体何者なのか - Qiita

2024/03/01 10 users NVIDIA Qiita Microsoft 株価 論文

はじめに この記事では、巷で「この技術によりGPUが不要になるかもしれない、NVIDIAなどの半導体関係の株価が...」と話題になっている、BitNet b1.58についての論文を丁寧に解説します。このMicrosoftが先日発表したBitNet b1.58はそのエネルギー効率の凄まじさから2024年初めの大きな技術改革となるかもしれません！！ ... 続きを読む

無料のチャットボットAI「Chat With RTX」をNVIDIAがリリース、GeForce RTX GPU搭載PCでローカル動作が可能

2024/02/14 17 users NVIDIA VRAM チャットボットAI ローカル動作 無料

NVIDIAがGeForce RTX GPUで動作する技術デモ「Chat with RTX」を無料でリリースしました。ユーザーはChat with RTXを独自のコンテンツでパーソナライズでき、システム要件はVRAMが8GB以上のRTX 30シリーズ以降のGPUを搭載したWindowsマシンとなっています。 Chat with RTX Now Free to Download | NVIDIA Blog https://b... 続きを読む

【特集】 「パルワールド」を快適に遊ぶならGPUはどれがいい？GeForceの最新と旧世代で比較してみた

2024/01/23 14 users GeForce パルワールド 旧世代 特集 最新

続きを読む

Kaggleで始める機械学習入門 - Qiita

2024/01/01 10 users Qiita Kaggle チュートリアル ハードル ネック

機械学習を学んで何かをコードを作ってみよう、と思うときにネックになるのが学習用データと実行環境ですよね。何千件もあるデータを用意するのは大変ですし、初学者にとって高価なGPUを購入するのはハードルが高いです。 そこで機械学習のプラットフォームであるKaggleを利用し、チュートリアルでタイタニック生存者予... 続きを読む

LLM開発のためのデータエンジニアリング - Qiita

2023/12/24 10 users Qiita LLM開発 LLM データエンジニアリング 学習

LLM開発のためのデータエンジニアリング MLOps Advent Calendar 2023の24日目です。 Stability AIでデータ系のソフトウェアエンジニアをやっているcvuskです。主な仕事は日本語LLMのためのデータ開発です。Stability AIでは日本語LLMも各種開発しています。LLMの学習というと大量のGPUを用意して巨大なデータでモデルを... 続きを読む

Appleが、LLMのパラメータを「SSDなどの外部フラッシュメモリに保存し」PCで効率的にモデルを使用する手法を開発 | AIDB

2023/12/20 10 users LLM AIDB パラメータ SSD CPU

マイページに保存最終更新日：2023/12/20 Appleの研究者らは、LLMのパラメータをSSDなどの外部フラッシュメモリに保存し、接続したPCなどで読み込み使用する手法を開発しました。 CPUで4-5倍、GPUで2 […] The post Appleが、LLMのパラメータを「SSDなどの外部フラッシュメモリに保存し」PCで効率的にモデルを使用する手... 続きを読む

PlayStation 5 Pro (PS5 Pro)は2024年秋発売予定？GPUには改良型RDNA3搭載するがCPUはZen 2のまま

2023/12/12 22 users CPU pro Zen 2 登場 PlayStation 5

ホームゲームPlayStation5PlayStation 5 Pro (PS5 Pro)は2024年秋発売予定？GPUには改良型RDNA3搭載するがCPUはZen 2のまま PlayStation 5 Pro (PS5 Pro)は2024年秋発売予定？GPUには改良型RDNA3搭載するがCPUはZen 2のまま 2023 12/12 PlayStation 5 Pro (PS5 Pro)の仕様情報が登場、2024年秋に発売予定 PlayStation 5... 続きを読む

NVIDIAはなぜAI用途で独走中？牙城は崩せるか

2023/12/07 12 users 牙城 NVIDIA Transformer CUDA AI用途

主にAI処理用途での先行者利益と性能の良さで採用が拡大している。2006年からGP（汎用）GPU開発環境「CUDA」を展開する。TransformerはNVIDIAのGPUを前提に設計した。 先行者利益─。米NVIDIAがAI半導体市場で独走する大きな理由の1つである。同社は2006年からCUDA（Compute Unified Device Architecture）を公開し、いち... 続きを読む

AMD、生成AIでNVIDIA H100を上回る性能のGPU「Instinct MI300」

2023/12/06 14 users AMD 生成AI Instinct MI300 性能

続きを読む

高速なPython互換言語の「Mojo」、そのままGPUで実行可能に。「MAX GPUs」発表。ModCon '23

2023/12/05 12 users ｍｏｊｏ Platform NVIDIA サンフランシスコ

高速なPython互換言語「Mojo」の開発元であるModular社は、同社として初のイベント「ModCon '23」を12月4日にサンフランシスコで開催しました。 基調講演で、高速なPython互換言語の「Mojo」を含むAI処理を高速に実行するプラットフォーム「MAX」（Modular Accelerated Xecution (MAX) Platform）がNVIDIAのGPU対応とな... 続きを読む