はてブログ

はてなブックマーク新着エントリーの過去ログサイトです。



タグ IEEE 754

新着順 人気順 5 users 10 users 50 users 100 users 500 users 1000 users
 
(1 - 1 / 1件)
 

0.1は浮動小数点で正確に表せないのに、printしたときに0.1と表示されるのはなぜか - Qiita

2020/01/21 このエントリーをはてなブックマークに追加 81 users Instapaper Pocket Tweet Facebook Share Evernote Clip Qiita print 浮動小数点 前提 環境

当たり前のことに感じますが、0.1は浮動小数点(IEEE 754)では正確に表現できません。 なのにprintをしたときに0.1と表示されるのは不思議です。 このことについて分かったことを書いておきます。 環境 この記事ではPython 3.7を使用しています。 【前提】浮動小数点 この記事で、以降"浮動小数点"という場合は、"IEEE 75... 続きを読む

 
(1 - 1 / 1件)