浮動小数点型の算術とお近づきになりたい人向けの記事 - えびちゃんの日記

2024/02/25 226 users トピック 算術 精度 エビちゃん 用語

お近づきになりたい人向けシリーズです。 いろいろなトピックを詰め込みましたが、「これら全部を知らないといけない」のようなつもりではなく、いろいろなことを知るきっかけになったらいいなという気持ちなので、あまり身構えずにちょっとずつ読んでもらえたらうれしい気がします。 まえがき 予備知識 規格 用語 精度... 続きを読む

高速逆平方根(fast inverse square root)のアルゴリズム解説 - 滴了庵日録

2021/02/09 330 users 収束 アルゴリズム解説 要点 アルゴリズム 平方根

高速逆平方根とは？ C言語のコード 検証 アルゴリズムの要点 [1] 逆平方根の計算を対数・指数の計算に置き換える [2] 浮動小数点型の内部表現を利用した対数・指数の近似計算 [2.1] 対数の近似 [2.2] σの最適値 [2.3] 整数型での解釈 [2.4] 逆平方根の計算とマジックナンバー0x5F3759DF [3] ニュートン法による収束で精... 続きを読む

PHP7のタイプヒントベストプラクティス | yohgaki's blog

2015/04/10 32 users yohgaki's blog PHP7 JSON 乖離 整数型

のPHP 7から基本的なデータ型（整数型、浮動小数点型、配列型）タイプヒントが追加されます。直感的に書くコードと正しいコードには乖離があります。PHP7でタイプヒントを使う場合のベストプラクティスを紹介します。 タイプヒントとタイプヒントの問題点については前回のブログを参照してください。 PHP7使用すべきタイプヒント PHPはWebシステムで利用され、データベースやJSONなどの外部データとのや... 続きを読む

ISO、C言語の新規格「C1X」を制定 | スラッシュドット・ジャパン デベロッパー

2011/12/27 34 users デベロッパー ISO 制定 eggy C言語

eggy 曰く、国際標準化機構（ISO）が、C言語の新規格「C1X」を制定した。正式名称は「ISO/IEC 9899:2011」となっている（本家/.、The H記事）。 C++言語との互換性に優れ、マルチスレッド機能、ISO/IEC TR 19769:2004に基づくUnicodeサポート、浮動小数点型の特性を調べるマクロや静的アサーション機能などの新機能を追加しているとのこと。 すべて読む |... 続きを読む