はてブログ

はてなブックマーク新着エントリーの過去ログサイトです。



タグ Double

新着順 人気順 5 users 10 users 50 users 100 users 500 users 1000 users
 
(1 - 6 / 6件)
 

プログラマに激震、C#がGPUに対応、シンプルすぎワロタ | ジサクテック

2018/02/03 このエントリーをはてなブックマークに追加 66 users Instapaper Pocket Tweet Facebook Share Evernote Clip ジサクテック 激震 GPU プログラマ EntryPoint

1: Socket774 2018/02/01(木) 13:23:12.54 ID:pugQSj7M0 BE:422186189-PLT(12015) たったこれだけでGPUを使った超並列演算ができるようになりました。 [EntryPoint] public static void Run(double[] a, double[] b, int N) { Parallel.For(0, N, i ... 続きを読む

x86/x64における小数から整数への丸め処理命令の変遷 - Cybozu Inside Out | サイボウズエンジニアのブログ

2017/08/14 このエントリーをはてなブックマークに追加 73 users Instapaper Pocket Tweet Facebook Share Evernote Clip 小数 整数 サイボウズエンジニア サイボウズ int

2017 - 08 - 15 x86/x64における小数から整数への丸め処理命令の変遷 C/C++ プログラミング 開発環境 こんにちは、サイボウズ・ラボの光成です。 今回は小数を整数に丸める処理に関して、x86/x64における命令がどのように変わってきたかを紹介します。 C++における小数から整数への変換ルール まずC++における浮動小数点数型(float, double)を整数型(int, i... 続きを読む

Kazuho's Weblog: C言語で可変長引数をとる関数を、型安全に書く方法

2014/12/13 このエントリーをはてなブックマークに追加 224 users Instapaper Pocket Tweet Facebook Share Evernote Clip 関数 Kazuho's Weblog 可変長引数 C言語 引数

Saturday, December 13, 2014 C言語で可変長引数をとる関数を、型安全に書く方法 C言語の可変長引数は、型安全でない(まちがった型の引数を渡してもコンパイルエラーにならない)とされています。これは言語仕様の理解としては正しいのですが、特定の型の引数を任意の個数とる関数に限っては、マクロを使うことで型安全性を確保することができます。 任意の個数のdoubleを引数にとり、その... 続きを読む

直列加算と並列加算でdoubleの足し算の結果が変わる話 - きしだのはてな

2013/11/23 このエントリーをはてなブックマークに追加 89 users Instapaper Pocket Tweet Facebook Share Evernote Clip 足し算 args System.out.println 結果

Javaに限った話ではないのだけど、Javaで並列加算が気軽にできるようになったので、気に留めておいたほうがいい話。 まず、次のようなコードを動かしてみます。 public static void main(String[] args){ double[] data = { 1.234E80, -1.234E80, 2, 3}; System.out.println(Arrays.stream(d... 続きを読む

やっぱりdoubleでは「76287755398823936」は表現できない - ψ(プサイ)の興味関心空間

2011/07/02 このエントリーをはてなブックマークに追加 50 users Instapaper Pocket Tweet Facebook Share Evernote Clip プサイ 興味関心空間

「なぜJavaScriptで「76287755398823936」が正しく表示できないか、あるいはなぜRubyでも表せないか。」の続きです。後半戦、テンションあげてまいりましょー(涙目 ■出力側ソースコードのチェック! さて...では重い腰を上げてソースコードを読みましょうか...。 FirefoxでもChromeでも起きるなら、何かWindowsのライブラリのバグ...なんでしょうか。ま、いいや... 続きを読む

いやなブログ - 浮動小数点演算ではまった話

2007/02/28 このエントリーをはてなブックマークに追加 146 users Instapaper Pocket Tweet Facebook Share Evernote Clip 浮動小数点演算 パーセンテージ int x 現象 int a

浮動小数点演算ではまった話 浮動小数点演算のありがちな問題ではまりました。 いろいろ調べているうちに x86 特有のちょっとおもしろい 現象に遭遇したので紹介したいと思います。 パーセンテージの計算 簡単な C のプログラムでパーセンテージを計算しようと思い、 次のようなコードを書きました。 int x, y; ... int a = (double)x / y * 100; int a = x ... 続きを読む

 
(1 - 6 / 6件)