タグ 奥村先生
新着順 5 users 10 users 100 users 500 users 1000 users(1 - 1 / 1件)
LibreOffice CalcとExcelの計算結果誤差をみなさんで検証していただいた結果まとめ - Togetter
2019/06/19
52 users
フィボナッチ数列
誤差
Togetter
検証
予想
LibreOffice CalcとExcelでフィボナッチ数列を計算すると結果に違いが生じたそうです。 丸め誤差の処理の差では?という予想はつきましたが、調べられなかったので検証をお願いをしたところ、いろんな事がわかったのでまとめました。 最後、奥村先生の話の中で、以前のExcelの誤差の丸め方が少し違うようなので注意が必要... 続きを読む
(1 - 1 / 1件)