NaNのビットパターンを使ってWebAssemblyからCPUの命令セットを推測する

2024/09/22 15 users WebAssembly nan 浮動小数点数 差異 CPU

浮動小数点数にはIEEE 754という標準規格がありますが、規格の範囲内であっても僅かに実装による差異が認められています。その一つがNaNのビットパターンです。 WebAssemblyはNaNのビットパターンに関しては実装依存の結果を許容しており、Wasmランタイムは特に深い理由がなければホストCPUの浮動小数点命令をそのまま用... 続きを読む

0.1は浮動小数点で正確に表せないのに、printしたときに0.1と表示されるのはなぜか - Qiita

2020/01/21 81 users Qiita print 浮動小数点 前提 環境

当たり前のことに感じますが、0.1は浮動小数点(IEEE 754)では正確に表現できません。 なのにprintをしたときに0.1と表示されるのは不思議です。 このことについて分かったことを書いておきます。 環境 この記事ではPython 3.7を使用しています。 【前提】浮動小数点 この記事で、以降"浮動小数点"という場合は、"IEEE 75... 続きを読む