タグ Double
人気順 5 users 10 users 100 users 500 users 1000 usersプログラマに激震、C#がGPUに対応、シンプルすぎワロタ | ジサクテック
1: Socket774 2018/02/01(木) 13:23:12.54 ID:pugQSj7M0 BE:422186189-PLT(12015) たったこれだけでGPUを使った超並列演算ができるようになりました。 [EntryPoint] public static void Run(double[] a, double[] b, int N) { Parallel.For(0, N, i ... 続きを読む
x86/x64における小数から整数への丸め処理命令の変遷 - Cybozu Inside Out | サイボウズエンジニアのブログ
2017 - 08 - 15 x86/x64における小数から整数への丸め処理命令の変遷 C/C++ プログラミング 開発環境 こんにちは、サイボウズ・ラボの光成です。 今回は小数を整数に丸める処理に関して、x86/x64における命令がどのように変わってきたかを紹介します。 C++における小数から整数への変換ルール まずC++における浮動小数点数型(float, double)を整数型(int, i... 続きを読む
Kazuho's Weblog: C言語で可変長引数をとる関数を、型安全に書く方法
Saturday, December 13, 2014 C言語で可変長引数をとる関数を、型安全に書く方法 C言語の可変長引数は、型安全でない(まちがった型の引数を渡してもコンパイルエラーにならない)とされています。これは言語仕様の理解としては正しいのですが、特定の型の引数を任意の個数とる関数に限っては、マクロを使うことで型安全性を確保することができます。 任意の個数のdoubleを引数にとり、その... 続きを読む
直列加算と並列加算でdoubleの足し算の結果が変わる話 - きしだのはてな
Javaに限った話ではないのだけど、Javaで並列加算が気軽にできるようになったので、気に留めておいたほうがいい話。 まず、次のようなコードを動かしてみます。 public static void main(String[] args){ double[] data = { 1.234E80, -1.234E80, 2, 3}; System.out.println(Arrays.stream(d... 続きを読む
やっぱりdoubleでは「76287755398823936」は表現できない - ψ(プサイ)の興味関心空間
「なぜJavaScriptで「76287755398823936」が正しく表示できないか、あるいはなぜRubyでも表せないか。」の続きです。後半戦、テンションあげてまいりましょー(涙目 ■出力側ソースコードのチェック! さて...では重い腰を上げてソースコードを読みましょうか...。 FirefoxでもChromeでも起きるなら、何かWindowsのライブラリのバグ...なんでしょうか。ま、いいや... 続きを読む
いやなブログ - 浮動小数点演算ではまった話
浮動小数点演算ではまった話 浮動小数点演算のありがちな問題ではまりました。 いろいろ調べているうちに x86 特有のちょっとおもしろい 現象に遭遇したので紹介したいと思います。 パーセンテージの計算 簡単な C のプログラムでパーセンテージを計算しようと思い、 次のようなコードを書きました。 int x, y; ... int a = (double)x / y * 100; int a = x ... 続きを読む