Rails: 通貨は浮動小数点ではなくRubyのmoney gemで表現すること（翻訳）｜TechRacho by BPS株式会社

2023/04/17 18 users Andy Croll 許諾 アプリケーション 著者 Rails

概要 元サイトの許諾を得て翻訳・公開いたします。 英語記事: Don’t Use Floats and Use the Ruby Money Gem to Represent Currencies – Andy Croll 原文公開日: 2021/11/15 著者: Andy Croll 日本語タイトルは内容に即したものにしました。 アプリケーションで金額を管理しなければならなくなることはざらにあります。... 続きを読む

浮動小数点を利用する際に知っておきたいこと

2021/01/13 20 users

(※ 2014 年 10 月 28 日に Microsoft Japan Visual Studio Support Team Blog に公開した情報のアーカイブです。) (※ 参照先ドキュメントの変更や廃止に伴い、リンク先を差し替えています。) こんにちは。Visual Studio サポート チームです。 今回は、Visual Studio でアプリケーションを開発する時にデータ型として使... 続きを読む

0.1は浮動小数点で正確に表せないのに、printしたときに0.1と表示されるのはなぜか - Qiita

2020/01/21 81 users Qiita print 前提 IEEE 754 環境

当たり前のことに感じますが、0.1は浮動小数点(IEEE 754)では正確に表現できません。 なのにprintをしたときに0.1と表示されるのは不思議です。 このことについて分かったことを書いておきます。 環境 この記事ではPython 3.7を使用しています。 【前提】浮動小数点 この記事で、以降"浮動小数点"という場合は、"IEEE 75... 続きを読む

理研、深層学習特化型スパコン導入−ＰＣ用プログラムもそのまま動作 | 科学技術・大学 ニュース | 日刊工業新聞 電子版

2016/12/29 15 users 理研 日刊工業新聞 動作 科学技術 電子版

理化学研究所の革新知能統合研究センター（ＡＩＰセンター）は、ディープラーニング（深層学習）に特化したスパコンを導入する。計算能力は４ペタフロップス（ペタは１０００兆、フロップスは浮動小数点の半精度演算性能）で理研のスパコン「京（けい）」の約４分の１に相当。投資額は６億―１０億円とみられる。研究者考案のプログラムを、市販ＰＣ用からスパコン用に修正する手間を省くなど、使い勝手に優れる。２０１６年度内に... 続きを読む

Xcode 4.2 + armv6で浮動小数点のバグ | HMDT Blog

2011/10/26 25 users 演算 パク HMDT Blog armv6 演算結果

Xcode 4.2 + armv6で浮動小数点のバグうちの会社で話題になったんだけど、Xcode 4.2 + armv6デバイスの組み合わせで、浮動小数点の演算にバグがあるらしい。演算結果が正しくないときがあるらしい。 どうやら最適化に関連する不具合のようで、最適化のレベルによって発生したりしなかったりするのがややこしい。 対策としては、Apple LLVM compilerで、Other C F... 続きを読む