浮動小数点型の算術とお近づきになりたい人向けの記事 - えびちゃんの日記

2024/02/25 226 users トピック 算術 精度 エビちゃん 用語

お近づきになりたい人向けシリーズです。 いろいろなトピックを詰め込みましたが、「これら全部を知らないといけない」のようなつもりではなく、いろいろなことを知るきっかけになったらいいなという気持ちなので、あまり身構えずにちょっとずつ読んでもらえたらうれしい気がします。 まえがき 予備知識 規格 用語 精度... 続きを読む

高速逆平方根(fast inverse square root)のアルゴリズム解説 - 滴了庵日録

2021/02/09 330 users 収束 アルゴリズム解説 要点 アルゴリズム 平方根

高速逆平方根とは？ C言語のコード 検証 アルゴリズムの要点 [1] 逆平方根の計算を対数・指数の計算に置き換える [2] 浮動小数点型の内部表現を利用した対数・指数の近似計算 [2.1] 対数の近似 [2.2] σの最適値 [2.3] 整数型での解釈 [2.4] 逆平方根の計算とマジックナンバー0x5F3759DF [3] ニュートン法による収束で精... 続きを読む