はてブログ

はてなブックマーク新着エントリーの過去ログサイトです。



タグ round関数

新着順 人気順 5 users 10 users 50 users 100 users 500 users 1000 users
 
(1 - 4 / 4件)
 

PHPのround関数とは一体なんだったのか - hnwの日記

2016/07/02 このエントリーをはてなブックマークに追加 380 users Instapaper Pocket Tweet Facebook Share Evernote Clip dis 四捨五入 hnw パク 記述

PHPのround関数について、ネット上で次のような記述を見つけました。 PHP 四捨五入の計算を間違える唯一の言語として畏れられていましたが、そのバグは治っているかもしれません(治ってないかもしれません) 主要なプログラミング言語8種をぐったり解説 - 鍋あり谷あり 各言語を面白おかしく紹介する内容とはいえ、ずいぶん雑な理解だなーという印象です。ゆるふわな話だけでPHPがdisられ続けるのもどう... 続きを読む

Monoで巨大な浮動小数点数を丸めたら無限大になった - hnwの日記

2014/01/30 このエントリーをはてなブックマークに追加 18 users Instapaper Pocket Tweet Facebook Share Evernote Clip mono hnw 浮動小数点数 日記 パク

Monoのround関数にバグを見つけたよ、という毎度おなじみの話題です。 早速ですが、浮動小数点数で扱える一番大きい数を浮動小数点数以下第2位で丸めて第1位までにしてみましょう。 using System; class RoundingBigFloat { static void Main() { double d = Double.MaxValue; Console.WriteLine(d);... 続きを読む

RubyとPythonとC#のround関数のバグっぽい挙動について - hnwの日記

2013/12/29 このエントリーをはてなブックマークに追加 98 users Instapaper Pocket Tweet Facebook Share Evernote Clip 浮動小数点数 引数 hnw パク 言語

RubyとPythonとC#のround関数について、小数点以下第n位までに丸める使い方は注意が必要、もしくはそれらのround関数にバグがあるんじゃないか、という話題です。 上記の言語のround関数は、小数点以下第何位までに丸めるかを引数で指定できます。丸め対象の数は浮動小数点数ですから、1.15などをピッタリ表現できないのは仕方ありません。とはいえ、例えば1.15(に一番近い、浮動小数点数で... 続きを読む

PHPの新しいround関数にバグをみつけた - hnwの日記

2011/04/07 このエントリーをはてなブックマークに追加 56 users Instapaper Pocket Tweet Facebook Share Evernote Clip hnw あいて RFC PHP パク

PHP 5.3.0以降、PHPのround関数の挙動はChristian Seilerさんが提案したRFCに従って一新されています。この新しいround関数の仕様上の問題もしくはバグを見つけました。 以前の記事「PHP5.3.0alpha3のround関数の実装がPHP5.2.6と変わった」でこの新しい実装は「今までよりは良い実装」ではないかと書きましたが、撤回すべきかもしれません。ベースのアイデ... 続きを読む

 
(1 - 4 / 4件)