はてブログ

はてなブックマーク新着エントリーの過去ログサイトです。



タグ 奥村先生

新着順 人気順 5 users 10 users 50 users 100 users 500 users 1000 users
 
(1 - 1 / 1件)
 

LibreOffice CalcとExcelの計算結果誤差をみなさんで検証していただいた結果まとめ - Togetter

2019/06/19 このエントリーをはてなブックマークに追加 52 users Instapaper Pocket Tweet Facebook Share Evernote Clip フィボナッチ数列 誤差 Togetter 検証 予想

LibreOffice CalcとExcelでフィボナッチ数列を計算すると結果に違いが生じたそうです。 丸め誤差の処理の差では?という予想はつきましたが、調べられなかったので検証をお願いをしたところ、いろんな事がわかったのでまとめました。 最後、奥村先生の話の中で、以前のExcelの誤差の丸め方が少し違うようなので注意が必要... 続きを読む

 
(1 - 1 / 1件)