x + 0.25 - 0.25 = xが成り立たないxとは何か｜Rui Ueyama｜note

2017/11/29 453 users float スタンフォード Note コンピュータサイエンス

スタンフォードのコンピュータサイエンスの授業で、ときどきこれは良問と思う問題がテストで出ることがある。僕の印象に残っているのは「xをfloatとするとき、x + 0.25 - 0.25 = xが成り立たないxを求めよ」というものだ。浮動小数点数を理解していないと、両辺が同じにならないケースがあるほうが不自然に思えるだろうから、この問題は浮動小数点数の奇妙さを結構うまく突いていると思う。この問題を元... 続きを読む

Go言語の浮動小数点数のお話 - Shogo's Blog

2017/10/28 88 users Shogo's Blog Go言語

元ネタ: [JavaScriptの問題] var a = 0.3 - 0.2; var b = 0.2 - 0.1; var c = a==b; cの中身はどれ？ — RAO(らお) (@RIORAO) October 24, 2017 正確な実数計算をやらされるJavaScriptくん #擬竜戯画 pic.twitter.com/ipE56C2YbV — RAO(らお) (@RIORAO) Oc... 続きを読む

浮動小数点計算の基本的事実 – 「浮動小数点数は実数ではない」ということ | コンピュータサイエンス | POSTD

2015/08/03 140 users POSTD 実数 記述 性質 ソフトウェア

浮動小数点数の計算は、あらゆるプログラムの計算において登場するものです。この記事では、浮動小数点数の反直感的な性質をいくつか紹介します。 これらの性質は、計算を正確に行うために知っておかなければならないことです。浮動小数点数はどこにでもあります。これを使わないソフトウェアは、簡単には見つかりません。ソフトウェアの記述に不可欠な何かのために、浮動小数点数を扱う際に私たちが非常に注意を払っているのだと... 続きを読む

RubyとPythonとC#のround関数のバグっぽい挙動について - hnwの日記

2013/12/29 98 users 引数 hnw パク round関数 言語

RubyとPythonとC#のround関数について、小数点以下第n位までに丸める使い方は注意が必要、もしくはそれらのround関数にバグがあるんじゃないか、という話題です。 上記の言語のround関数は、小数点以下第何位までに丸めるかを引数で指定できます。丸め対象の数は浮動小数点数ですから、1.15などをピッタリ表現できないのは仕方ありません。とはいえ、例えば1.15（に一番近い、浮動小数点数で... 続きを読む

第70回PHP勉強会で浮動小数点数の話をしました - hnwの日記

2013/07/23 104 users hnw PDO レアケース 挙動 トピック

7月22日に開催された第70回PHP勉強会で発表してきました。以下が発表資料です。 浮動小数点数周りのトピックを3点紹介する内容でしたが、思ったより反応が良かったように思います。 ただ、面白おかしく話そうとして、聞いている方々に無駄に恐怖を与えてしまったかもしれません。冷静に読み返していただければ、怖いように見える内容もレアケースの話題が多いことがわかるかと思います。 また、PDOの挙動については... 続きを読む

浮動小数点変換バグはJavaにもあった

2011/02/10 58 users Java cles PHP 騒ぎ 特定

cles::blog平常心是道blogs:cles::blogNP_cles()« OCE@N SG No.2 Home > 浮動小数点変換バグはJavaにもあった2011/02/10[ by hsur at 21:23]浮動小数点変換バグはJavaにもあった   先日、PHPで特定の浮動小数点数を入力するとハングするという問題*1*2があって、急遽アップデート版が出たりとかしてちょっとした騒ぎに... 続きを読む