Ruby 3.4でString#to_f/Kernel.#Floatの挙動がちょっと変わるよ - 2024-11-08 - ククログ

2024/11/08 6 users kernel float ククログ 須藤 Ruby

Rubyの開発に参加している須藤です。Apache Arrowの開発中に、他のシステムでは受け付ける浮動小数点数の文字列表現をRubyでは受け付けないことを知ったので、Rubyでも受け付けるようにする？という話をしたら受け付けるようになりました。ということで、2024年12月にリリース予定のRuby 3.4.0からString#to_f/Kernel.#F... 続きを読む

NaNのビットパターンを使ってWebAssemblyからCPUの命令セットを推測する

2024/09/22 15 users WebAssembly nan 差異 CPU 実装

浮動小数点数にはIEEE 754という標準規格がありますが、規格の範囲内であっても僅かに実装による差異が認められています。その一つがNaNのビットパターンです。 WebAssemblyはNaNのビットパターンに関しては実装依存の結果を許容しており、Wasmランタイムは特に深い理由がなければホストCPUの浮動小数点命令をそのまま用... 続きを読む

MicrosoftやGitHubがオープンソースのソフトウェア「GNU Multi-Precision Library」のサーバーにDDoS攻撃を仕掛けていると報告される

2023/06/29 10 users GitHub ffmpeg DDoS攻撃 Microsoft

符合付き整数や有理数、浮動小数点数を扱う任意精度演算ライブラリで、オープンソースソフトウェアのGNU Multi-Precision Library(GMP)が、2023年6月16日にMicrosoftが保有する数百ものIPアドレスからDDoS攻撃を受けていると報告しました。。Microsoftとその傘下のGitHubによる調査の結果、GitHubのユーザーがFFmpegのス... 続きを読む

文字列から浮動小数点数に変換する、なるべく速く - toge's diary

2021/01/31 22 users tl;dr 変換処理 文字列 プログラム 環境

TL;DR 文字列から浮動小数点数に変換するならfastfloat使いましょう。 私が試せる環境で比較する限り、とても速いです。 細かいことが気になります C++でちょっとしたプログラムを書くときにいつも気になるのが 「文字列データから指定データ型への変換処理をどうやって効率的に書くか」 です。私だけかもしれませんが。... 続きを読む

ArmにあるというJavaScript専用命令とは何か、あるいは浮動小数点数を整数に変換する方法について - Qiita

2020/11/30 12 users ARM Qiita 整数 方法

Help us understand the problem. What is going on with this article? 続きを読む

浮動小数点数の二段階丸め誤差 - hydrakecat’s blog

2020/10/21 19 users hydrakecat’s blog FMA OpenJDK

さいきん『浮動小数点数小話』という同人誌を読んでFMA (Fused Multiply-Add)の二段階丸め誤差（double rounding error）について色々と知る機会があったのでまとめておく。ついでにFMAに関するOpenJDKのバグっぽい挙動を見つけたのでそれも併せて記しておく。 FMA (Fused Multiply-Add)とは FMAは以下のような演算のこ... 続きを読む

x + 0.25 - 0.25 = xが成り立たないxとは何か｜Rui Ueyama｜note

2017/11/29 453 users float スタンフォード Note コンピュータサイエンス

スタンフォードのコンピュータサイエンスの授業で、ときどきこれは良問と思う問題がテストで出ることがある。僕の印象に残っているのは「xをfloatとするとき、x + 0.25 - 0.25 = xが成り立たないxを求めよ」というものだ。浮動小数点数を理解していないと、両辺が同じにならないケースがあるほうが不自然に思えるだろうから、この問題は浮動小数点数の奇妙さを結構うまく突いていると思う。この問題を元... 続きを読む

Go言語の浮動小数点数のお話 - Shogo's Blog

2017/10/28 88 users Shogo's Blog Go言語

元ネタ: [JavaScriptの問題] var a = 0.3 - 0.2; var b = 0.2 - 0.1; var c = a==b; cの中身はどれ？ — RAO(らお) (@RIORAO) October 24, 2017 正確な実数計算をやらされるJavaScriptくん #擬竜戯画 pic.twitter.com/ipE56C2YbV — RAO(らお) (@RIORAO) Oc... 続きを読む

JavaScript - すべてがfになる〜整数型のない世界 - Qiita

2015/12/12 19 users リデ Qiita 整数 演算 Java

多くの言語では、数値を入れる型として、整数と浮動小数点数など、いくつかの型が存在します。しかし、JavaScriptはそうではありません。 5 / 2 = ？ C言語を使っていると時々引っかかる話ですが、「整数型同士の演算は整数型になる」ということになっています。そのため、 5 / 2 を計算すると、切り捨てられて 2 になります。この挙動は、RubyやJavaでも共通します。そういうわけで、リテ... 続きを読む

浮動小数点計算の基本的事実 – 「浮動小数点数は実数ではない」ということ | コンピュータサイエンス | POSTD

2015/08/03 140 users POSTD 実数 記述 ソフトウェア 性質

浮動小数点数の計算は、あらゆるプログラムの計算において登場するものです。この記事では、浮動小数点数の反直感的な性質をいくつか紹介します。 これらの性質は、計算を正確に行うために知っておかなければならないことです。浮動小数点数はどこにでもあります。これを使わないソフトウェアは、簡単には見つかりません。ソフトウェアの記述に不可欠な何かのために、浮動小数点数を扱う際に私たちが非常に注意を払っているのだと... 続きを読む

libc非依存の言語処理系(もしくは、自作CPUへの移植の苦労話) - wasabizの日記

2015/02/04 32 users wasabiz UCC 移植 自作CPU サブセット

2015-02-03 libc非依存の言語処理系(もしくは、自作CPUへの移植の苦労話) 自作CPUへの移植が大変だったのでメモ。 まず、今回ターゲットにする環境の特徴を軽く説明しておくと CPUが自作 ISAも独自 uccという自作Cコンパイラ(開発中で不完全、c89のサブセット)とMLコンパイラがある 浮動小数点数はIEEE single floatのみサポート メモリは4MB IOはRS23... 続きを読む

Monoで巨大な浮動小数点数を丸めたら無限大になった - hnwの日記

2014/01/30 18 users mono hnw round関数 日記 パク

Monoのround関数にバグを見つけたよ、という毎度おなじみの話題です。 早速ですが、浮動小数点数で扱える一番大きい数を浮動小数点数以下第2位で丸めて第1位までにしてみましょう。 using System; class RoundingBigFloat { static void Main() { double d = Double.MaxValue; Console.WriteLine(d);... 続きを読む

RubyとPythonとC#のround関数のバグっぽい挙動について - hnwの日記

2013/12/29 98 users 引数 hnw パク round関数 言語

RubyとPythonとC#のround関数について、小数点以下第n位までに丸める使い方は注意が必要、もしくはそれらのround関数にバグがあるんじゃないか、という話題です。 上記の言語のround関数は、小数点以下第何位までに丸めるかを引数で指定できます。丸め対象の数は浮動小数点数ですから、1.15などをピッタリ表現できないのは仕方ありません。とはいえ、例えば1.15（に一番近い、浮動小数点数で... 続きを読む

浮動小数点数パースにおけるヒープオーバーフロー (CVE-2013-4164)

2013/11/22 31 users ヒープオーバーフロー CVE Ruby 脆弱性 文字列

Ruby において、浮動小数点数のパース時にヒープオーバーフローが発生しうるという問題が報告されました。 この脆弱性は CVE-2013-4164 として CVE に登録されています。 脆弱性の詳細 文字列を浮動小数点数値に変換する際に、意図的にヒープオーバーフローを発生させる文字列を構成できることが判明しました。 これによって、セグメンテーションフォールトによるサービス拒否攻撃を行うことができ、... 続きを読む

Ruby 2.0.0-p353 リリース

2013/11/22 29 users リリース HTT バグフィックス セキュリティフィックス 修正

Ruby 2.0.0-p353 がリリースされました。 このリリースには浮動小数点数の文字列パースについてのセキュリティフィックスが含まれます。 浮動小数点数パースにおけるヒープオーバーフロー (CVE-2013-4164) その他にもいくつかのバグフィックスやドキュメントの修正が含まれています。 より詳細な変更点は ChangeLog ファイルやチケットを参照してください。 ダウンロード htt... 続きを読む

第70回PHP勉強会で浮動小数点数の話をしました - hnwの日記

2013/07/23 104 users hnw PDO レアケース 挙動 トピック

7月22日に開催された第70回PHP勉強会で発表してきました。以下が発表資料です。 浮動小数点数周りのトピックを3点紹介する内容でしたが、思ったより反応が良かったように思います。 ただ、面白おかしく話そうとして、聞いている方々に無駄に恐怖を与えてしまったかもしれません。冷静に読み返していただければ、怖いように見える内容もレアケースの話題が多いことがわかるかと思います。 また、PDOの挙動については... 続きを読む

珍しく初期段階で却下された特許訴訟: 数学的アルゴリズムは特許を取れないと | TechCrunch Japan

2013/03/29 35 users アルゴリズム 特許 特許訴訟 Rackspace 侵犯

連邦判事がRackspaceに対する特許侵害訴訟を却下し、数学的アルゴリズムは特許の対象にならない、と裁定した。東部地区(Eastern Disrict)におけるこの裁定は、2012年にUniloc USAが行った告訴に対するもので、その訴えは、Linuxオペレーティングシステムによる浮動小数点数の処理は特許の侵犯であると主張していた。 首席判事Leonard Davisはこの裁定の根拠を、数学的... 続きを読む

JSON::XS の浮動小数点数 decode について - tokuhirom's blog.

2012/10/25 21 users Bug hiratara decode_json JSON

http://d.hatena.ne.jp/hiratara/20121024/1351054828 https://rt.cpan.org/Public/Bug/Display.html?id=80350 use v5.16.0; use JSON::XS; my $dat = decode_json( "[0.6]" )->[0]; say int ( 24 / $dat ); say int... 続きを読む

浮動小数点変換バグはJavaにもあった

2011/02/10 58 users Java cles PHP 騒ぎ 特定

cles::blog平常心是道blogs:cles::blogNP_cles()« OCE@N SG No.2 Home > 浮動小数点変換バグはJavaにもあった2011/02/10[ by hsur at 21:23]浮動小数点変換バグはJavaにもあった   先日、PHPで特定の浮動小数点数を入力するとハングするという問題*1*2があって、急遽アップデート版が出たりとかしてちょっとした騒ぎに... 続きを読む