タグ IEEE 754
人気順 5 users 10 users 100 users 500 users 1000 users(1 - 1 / 1件)
0.1は浮動小数点で正確に表せないのに、printしたときに0.1と表示されるのはなぜか - Qiita
当たり前のことに感じますが、0.1は浮動小数点(IEEE 754)では正確に表現できません。 なのにprintをしたときに0.1と表示されるのは不思議です。 このことについて分かったことを書いておきます。 環境 この記事ではPython 3.7を使用しています。 【前提】浮動小数点 この記事で、以降"浮動小数点"という場合は、"IEEE 75... 続きを読む
(1 - 1 / 1件)