Pythonの整数型はどのように実装されているのか

2021/12/30 9 users Python

この記事はPython Advent Calendar 2021 18日目の記事です。 GoogleでソフトウェアエンジニアをしているAlberto Oshiro氏のHow Python Represents Integers using Bignumの翻訳になります。本人のご了承を得て公開しています。感謝。 Photo by Crissy Jarvis on Unsplash C/C++のような低レイヤーのコーディングをしてい... 続きを読む

高速逆平方根(fast inverse square root)のアルゴリズム解説 - 滴了庵日録

2021/02/09 330 users 収束 アルゴリズム解説 要点 アルゴリズム 平方根

高速逆平方根とは？ C言語のコード 検証 アルゴリズムの要点 [1] 逆平方根の計算を対数・指数の計算に置き換える [2] 浮動小数点型の内部表現を利用した対数・指数の近似計算 [2.1] 対数の近似 [2.2] σの最適値 [2.3] 整数型での解釈 [2.4] 逆平方根の計算とマジックナンバー0x5F3759DF [3] ニュートン法による収束で精... 続きを読む

PHP 7.2以降におけるPDO::PARAM_INTの仕様変更 | 徳丸浩の日記

2020/03/27 20 users PDO プレースホルダ 徳丸浩 暗黙 型変換

サマリPHP 7.2以降、PDOの内部実装が変更された。動的プレースホルダ（エミュレーションOFF）にてバインド時にPDO::PARAM_INTを指定した場合、PHP 7.1までは文字列型としてバインドされていたが、PHP 7.2以降では整数型としてバインドされる。 この変更により、従来PDOが内包していた「暗黙の型変換」は解消される一方、... 続きを読む

整数型のカッコ「()」に入る数字は表示幅 - 41から始めました

2018/12/13 10 users カッコ BigInt 数字 表示幅 デフォルト値

この記事はMySQL Casual Advent Calendar 2018 13日目の記事です。 テーブル作成時 カラムの型を定義しますが、数字列に対して hoge_id` bigint(20) hoge_flag` tinyint(1) というようにカッコ()の中に数字を入れていると思いますが、この数字がそもそも省略できることは知っていると思います。 省略するとデフォルト値(... 続きを読む

実装して理解するスライス #golang - Qiita

2018/12/01 31 users Qiita golang Runtime スライス ポインタ

つまり、Goのスライスは次の図のように、配列へのポインタと長さと容量を持った値として表現されています。 runtimeとreflectパッケージでポインタがunsafe.Pointerとuintptrで表現方法は違いますが、どちらもポインタを表す値です。 unsafe.Pointerは任意型のポインタと相互変換可能な型です。一方で、uintptrは整数型... 続きを読む

x86/x64における小数から整数への丸め処理命令の変遷 - Cybozu Inside Out | サイボウズエンジニアのブログ

2017/08/14 73 users 小数 整数 サイボウズ サイボウズエンジニア Double

2017 - 08 - 15 x86/x64における小数から整数への丸め処理命令の変遷 C/C++ プログラミング 開発環境 こんにちは、サイボウズ・ラボの光成です。 今回は小数を整数に丸める処理に関して、x86/x64における命令がどのように変わってきたかを紹介します。 C++における小数から整数への変換ルール まずC++における浮動小数点数型（float, double）を整数型（int, i... 続きを読む

JavaScript - すべてがfになる〜整数型のない世界 - Qiita

2015/12/12 19 users リデ Qiita 整数 浮動小数点数 演算

多くの言語では、数値を入れる型として、整数と浮動小数点数など、いくつかの型が存在します。しかし、JavaScriptはそうではありません。 5 / 2 = ？ C言語を使っていると時々引っかかる話ですが、「整数型同士の演算は整数型になる」ということになっています。そのため、 5 / 2 を計算すると、切り捨てられて 2 になります。この挙動は、RubyやJavaでも共通します。そういうわけで、リテ... 続きを読む

PHP7のタイプヒントベストプラクティス | yohgaki's blog

2015/04/10 32 users yohgaki's blog PHP7 JSON 乖離 前回

のPHP 7から基本的なデータ型（整数型、浮動小数点型、配列型）タイプヒントが追加されます。直感的に書くコードと正しいコードには乖離があります。PHP7でタイプヒントを使う場合のベストプラクティスを紹介します。 タイプヒントとタイプヒントの問題点については前回のブログを参照してください。 PHP7使用すべきタイプヒント PHPはWebシステムで利用され、データベースやJSONなどの外部データとのや... 続きを読む