はてブログ

はてなブックマーク新着エントリーの過去ログサイトです。



タグ 浮動小数点演算

新着順 人気順 5 users 10 users 50 users 100 users 500 users 1000 users
 
(1 - 3 / 3件)
 

スパコン「京」後継機、100倍の性能に CPUの仕様、富士通が発表 - ITmedia NEWS

2018/08/22 このエントリーをはてなブックマークに追加 21 users Instapaper Pocket Tweet Facebook Share Evernote Clip スパコン 富士通 CPU 倍精度 ピーク性能

スーパーコンピュータ「京」の後継機(ポスト京)に搭載するCPU「A64FX」は、倍精度(64ビット)浮動小数点演算のピーク性能は2.7TFLOPS以上。ポスト京は、従来の京と比べて最大100倍の実行性能を目指す。 富士通は8月22日、スーパーコンピュータ「京」の後継機(ポスト京)に搭載するCPU「A64FX」の仕様を発表した。倍... 続きを読む

【やじうまPC Watch】【懐パーツ】純正ではi486最速、「IntelDX4」 - PC Watch

2016/12/06 このエントリーをはてなブックマークに追加 23 users Instapaper Pocket Tweet Facebook Share Evernote Clip 懐パーツ やじうまPC Watch PC Watch 末裔

IntelDX4  今回は1994年に発売されたi486世代の末裔、「IntelDX4」を紹介したい。  i486は1989年に発売された32bitプロセッサである。当初の動作クロックは25MHzまたは33MHzの2種類であった。旧製品Intel 80386に対して、8KBのL1キャッシュを内蔵し、ほぼ全ての命令を1クロックで動作させることで高速化。浮動小数点演算を行なうコプロセッサを内蔵すること... 続きを読む

いやなブログ - 浮動小数点演算ではまった話

2007/02/28 このエントリーをはてなブックマークに追加 146 users Instapaper Pocket Tweet Facebook Share Evernote Clip Double パーセンテージ int x 現象 int a

浮動小数点演算ではまった話 浮動小数点演算のありがちな問題ではまりました。 いろいろ調べているうちに x86 特有のちょっとおもしろい 現象に遭遇したので紹介したいと思います。 パーセンテージの計算 簡単な C のプログラムでパーセンテージを計算しようと思い、 次のようなコードを書きました。 int x, y; ... int a = (double)x / y * 100; int a = x ... 続きを読む

 
(1 - 3 / 3件)