タグ CPU
人気順 10 users 50 users 100 users 500 users 1000 users僅か2.3GBで日本語可能な超高性能ローカルLLMのPhi-3 MINIをllama.cppとCPUで動かしてみた。スマホでも可。従来のコンパクトLLMと比較して超越した性能で未来を感じさせるMicroSoft寄付ありがとう
Kapper@Linuxガジェヲタ&異世界小説家&生成AI&電子工作大好き @kapper1224 昨日MicroSoftからリリースしたローカルLLMモデルのPhi-3 mini 4k Q4をllama.cppのサーバ版を動かしてみた。こいつ2.32GBしかないくせに日本語しゃべれるぞ。今までとは桁違いの性能なんですけど・・・ ./build/bin/server -m ../Phi-3-mini-... 続きを読む
POPCNT命令だけじゃない、「Windows 11 バージョン 24H2」はSSE4.2対応のCPUが必要に?/「Windows 11 Insider Preview」Build 26080以降では非対応CPU環境でOSが起動せず【やじうまの杜】
LightGBMをGPUで回すと結果の再現性が得られない - Qiita
概要 タイトルの通りなのだが、LightGBMをGPUで回すと結果の再現性が得られないことに気づいた。 CPUの場合は乱数seedを42などに固定すれば、同じ条件で何回回しても毎回同じ結果が得られる。 しかし、GPUの場合は乱数seedを固定しても回すたびに結果が変わってしまうのだ。 なぜ再現性がないのか? この問題はLightGBM... 続きを読む
GoogleがArmベースのCPU「Axion」を発表
Googleが、カスタムArmベースのCPUである「Axion」を発表しました。このデータセンター向けチップのAxionは、2024年後半にGoogle Cloud経由で利用可能になる予定です。 Introducing Google’s new Arm-based CPU | Google Cloud Blog https://cloud.google.com/blog/products/compute/introducing-googles-new-arm-based-... 続きを読む
Intel 第13と第14世代のハイエンドCPU中心に不安定になる不具合多発。高クロックによりCPUが劣化?
Intelの第13および第14世代CPUでゲームが不安定になる不具合が多発中。高クロックモデルが中心でCPUの劣化が疑われる。 Intelの第13世代および第14世代などRaptor Lake系世代のCPUではCore i9系などのハイエンドモデルを中心に動作クロックが非常に高く設定されているのですが、この高すぎる動作クロックが原因でCPUが劣... 続きを読む
CPU・GPU・ストレージの性能をワンクリックで測定できるフリーソフト「CrystalMark Retro」レビュー、CrystalDiskMark作者の新作で簡単操作でPCの性能を測定可能
CPUやGPU、ストレージの性能を簡単に測定できるベンチマークソフト「CrystalMark Retro」が2024年3月31日にリリースされました。CrystalMark Retroはストレージベンチマークソフト「CrystalDiskMark」やストレージ管理ソフト「CrystalDiskInfo」といった定番ソフトの作者であるhiyohiyo氏の新作ということで、CrystalMar... 続きを読む
CPUの命令セットアーキテクチャ「x86」は近い未来に滅ぶだろうという主張
PC向けCPUの主流な命令セットアーキテクチャであるx86は、Intel 8086プロセッサに起源を持ち、46年の長きにわたって使われてきました。そんなx86は近い未来に滅んでしまうだろうと、技術系ブログのHackadayが主張しています。 Why X86 Needs To Die | Hackaday https://hackaday.com/2024/03/21/why-x86-needs-to-die/ x... 続きを読む
「中国で最も有望なCPU」と評されるLoongsonの「3A6000」はどんなCPUなのか?
中国が脱アメリカを図り独自のCPU製作を進めています。新たに中国企業・Loongsonが開発した「3A6000」というCPUについて、テック系情報サイトのChips and Cheeseが解説しました。 Loongson 3A6000: A Star among Chinese CPUs – Chips and Cheese https://chipsandcheese.com/2024/03/13/loongson-3a6000-a-star-among-c... 続きを読む
中国、政府使用IT機器から米国製の半導体やOS排除方針=FT
中国は、政府使用のパソコン(PC)とサーバーから米半導体大手インテル、アドバンスト・マイクロ・デバイセス(AMD)両社のCPUを段階的に排除することを定めたIT機器調達指針を導入した。英紙フィナンシャル・タイムズ(FT)が24日伝えた。写真は2023年2月撮影(2024年 ロイター/Florence Lo)... 続きを読む
NVIDIAとインテルとIBMはどうして差がついてきたのか、あるいは富士通「富岳」CPUが民間普及しなかったのは何故か
NVIDIAと、インテル・IBMはどうして差がついたのか、疑問に思う。 AIで言えば、IBMのWatsonがずっと先行していた。 AIはニューラルネットワークを模倣していると言われ、ニューロモーフィックというチップを、IBMは作り、その後、メンバーが移籍してインテルも作った。 現在、ニューラルネットワークとは違うものになっ... 続きを読む
【GDC 2024】CPUを使わずにGPUが自発的に描画するパイプライン「Work Graph」がDirectX 12に正式採用
【GDC 2024】CPUを使わずにGPUが自発的に描画するパイプライン「Work Graph」がDirectX 12に正式採用 ライター:西川善司 セッションタイトルを訳すなら,「ようこそ,未来のGPUプログラミングモデル『GPU Work Graph』へ」 米国時間2024年3月18日に行われたGDC 2024の技術セッション「Advanced Graphics Summit: GPU Wo... 続きを読む
AUTOMATONの記事タイトルが好きなので紹介します。だいたい2文めがちょっと可笑しい - nomolkのブログ
AUTOMATONの良い記事タイトルhttps://t.co/GjqmbmlRc8— メルセデスベン子 (@nomolk) 2023年9月12日 『サイバーパンク2077』開発者、無料大型アプデ後は「CPUが限界レベルにフル稼働する」と明かし、冷却性能チェックを呼びかけ。それほどぶん回す - AUTOMATON AUTOMATONというゲーム情報メディアがあります。恥ずかしな... 続きを読む
え、高級言語しか触ったことないのにCPUを自作するんですか!?
今回は、高専5年次から趣味で学習していたRISC-Vを実装した、簡単なCPU作成をしていこうと思います。 完全に知識ゼロの状態から学び始めたので、間違った解釈をしている部分があるかもしれませんが、その時は優しく指摘していただけると嬉しいです 🙏 また、本ブログはディジタル回路設計とコンピュータアーキテクチャ[R... 続きを読む
長尾製作所、“CPUを眺めるための”専用ディスプレイ台
「DNSに対する最悪の攻撃」 DNSSEC設計の根幹に関わる脆弱性「KeyTrap」が見つかる
「DNSに対する最悪の攻撃」 迅速なパッチ適用を推奨 ATHENEによると、KeyTrapを悪用した場合、単一のDNSパケットが結果的にCPUの使い果たしを誘導し、「Google Public DNS」やCloudflareのDNSなど広く使われているDNS実装やパブリックDNSプロバイダーを全て停止させることが可能だ。発表によると「BIND 9」を16時間ダウ... 続きを読む
Google Cloud、GPUに頼ることなくローカルのCPUとメモリ上でLLMの活用を可能にする「localllm」を公開
localllmは、コマンドラインユーティリティ経由でHuggingFaceから量子化モデルにアクセス可能なツールとライブラリのセットで、Google Cloud Workstation内にてCPUとメモリ上でLLMをローカル実行するための、包括的なフレームワークとツールを提供する。localllmの利用によって、GPUへの依存が排除されアプリケーション... 続きを読む
【ボトルネックチェッカーは役立たず】グラボ別おすすめCPUを解説 | ちもろぐ
「CPUボトルネック」について調べてみると、「ボトルネックチェッカー」なるサイトが表示されます。 残念ながらボトルネックチェッカーは誤解を招く素人騙しの温床で、正直それほど参考にならないです。筆者やかもちも当然ながらボトルネックチェッカーでCPUとグラボを選ばないです。 本記事では、初心者向けにCPUボトル... 続きを読む
「Windows 11 バージョン 24H2」はPOPCNT命令を備えたCPUが必須? 化石レベルでは起動せず/もっとも、これで困る人はごくわずか【やじうまの杜】
ラズパイ4も対応しているCPU超高速Stable diffusionのFastSDCPUで爆速生成AI。標準4分/枚がOpenVINOでわずか18秒/枚。お金をかけずに爆速化最高。オススメ
Kapper@Linuxガジェヲタ&異世界小説家&電子工作大好き @kapper1224 CPUでStable diffusionが3分ちょっとかかるので、ラズパイ4も対応しているFastSDCPUを入れたら50秒になったw OpenVINOとか入っているらしい。AMDのCPUだけどw ターミナル画面左側が普通のSD、右側がFastSDCPU これだけ速度差があるとありがたい gith... 続きを読む
1つのGPU/CPUで推論可能な超軽量LLM「tsuzumi」を24年3月から提供へ
1つのGPU/CPUで推論可能な超軽量LLM「tsuzumi」を24年3月から提供へ:学習コストは「GPT-3」の300分の1に(1/2 ページ) NTTが、独自開発した大規模言語モデル(LLM)「tsuzumi」を2024年3月から提供開始する。tsuzumiは、パラメーターサイズが6億または70億と軽量でありながら、世界トップクラスの日本語処理性能を持... 続きを読む
「NAND素子ひとつからCPUを組み上げろ」など理論回路の基礎から応用まで簡単操作で学習できるPCゲーム「Turing Complete」をプレイしてみた
コンピューターの理論を学ぼうと思っても、複雑な専門書を読む必要があったり、講習を受ける必要があったりと、高いハードルに圧倒されて諦めてしまった経験がある人は多いはず。そんなコンピューターの理論やプログラミングの基礎を手軽に学べるゲームが「Turing Complete」です。今回はTuring Completeがどんなゲーム... 続きを読む
「プログラマーのための CPU 入門 ― CPUは如何にしてソフトウェアを高速に実行するか」を読んだ - おしぼりの日常
はじめに 年明けの暇な時間を利用して読んでみました。 書籍のリンク 良かった点 とにかく文章が分かりやすい 色々な用語の使い方に違和感がない 具体例が豊富 図が豊富 コード例が豊富 実験例が豊富 構成に一貫性がある 難易度が丁度良い 悪かった点 個人的には無い 注意点 ソフトウェアを高速化するための具体的な技法... 続きを読む
パフォーマンスを気にするならReact Hook Formが無難
React Hook Form は高速。 Formik は早くない。改善は可能。 React Final Form はある程度早い。 React Hook Form が無難ではあるものの、CPU 6× slowdown で 100ms は通常では許容できると考え Formik を採用するのもあり。 比較したライブラリ 計測の対象にしたライブラリは以下の 3 つです。 React Hook Form Formik ... 続きを読む
パソコン性能が飛躍的に向上へ、Intel「1.8nmプロセス」導入で高い処理性能と低消費電力を実現へ | Buzzap!
IntelのCPUに業界初となる技術がついに導入されるようです。詳細は以下から。 海外メディアの報道によると、オランダの大手メーカー・ASMLは、「1.8nmプロセス」を採用した半導体の製造ができる装置を、他社に先駆けてIntelに出荷したそうです。 これは従来より高い解像度のパターンを半導体に転写できる、高開口数(高N... 続きを読む
Appleが、LLMのパラメータを「SSDなどの外部フラッシュメモリに保存し」PCで効率的にモデルを使用する手法を開発 | AIDB
マイページに保存最終更新日:2023/12/20 Appleの研究者らは、LLMのパラメータをSSDなどの外部フラッシュメモリに保存し、接続したPCなどで読み込み使用する手法を開発しました。 CPUで4-5倍、GPUで2 […] The post Appleが、LLMのパラメータを「SSDなどの外部フラッシュメモリに保存し」PCで効率的にモデルを使用する手... 続きを読む