x + 0.25 - 0.25 = xが成り立たないxとは何か｜Rui Ueyama｜note

2017/11/29 453 users float スタンフォード Note コンピュータサイエンス

スタンフォードのコンピュータサイエンスの授業で、ときどきこれは良問と思う問題がテストで出ることがある。僕の印象に残っているのは「xをfloatとするとき、x + 0.25 - 0.25 = xが成り立たないxを求めよ」というものだ。浮動小数点数を理解していないと、両辺が同じにならないケースがあるほうが不自然に思えるだろうから、この問題は浮動小数点数の奇妙さを結構うまく突いていると思う。この問題を元... 続きを読む

浮動小数点計算の基本的事実 – 「浮動小数点数は実数ではない」ということ | コンピュータサイエンス | POSTD

2015/08/03 140 users POSTD 実数 記述 ソフトウェア 性質

浮動小数点数の計算は、あらゆるプログラムの計算において登場するものです。この記事では、浮動小数点数の反直感的な性質をいくつか紹介します。 これらの性質は、計算を正確に行うために知っておかなければならないことです。浮動小数点数はどこにでもあります。これを使わないソフトウェアは、簡単には見つかりません。ソフトウェアの記述に不可欠な何かのために、浮動小数点数を扱う際に私たちが非常に注意を払っているのだと... 続きを読む

第70回PHP勉強会で浮動小数点数の話をしました - hnwの日記

2013/07/23 104 users hnw PDO レアケース 挙動 トピック

7月22日に開催された第70回PHP勉強会で発表してきました。以下が発表資料です。 浮動小数点数周りのトピックを3点紹介する内容でしたが、思ったより反応が良かったように思います。 ただ、面白おかしく話そうとして、聞いている方々に無駄に恐怖を与えてしまったかもしれません。冷静に読み返していただければ、怖いように見える内容もレアケースの話題が多いことがわかるかと思います。 また、PDOの挙動については... 続きを読む