dポイントと交換できるWelcome!スタンプをあつめよう
辞書
《rounding error》四捨五入や切り上げ・切り捨てにより生じる数値計算上の誤差のこと。二進法に基づくコンピューターによる数値計算の場合、この影響が顕著に現れる場合があるため、より正しい計算結果を得るためには、プログラムの工夫などが必要となる。
出典：デジタル大辞泉（小学館）
出典：教えて！goo
計算の丸め誤差の解消について
プログラム上で計算するときに丸め誤差が発生し、困っています。 丸め誤差が発生している計算は -0.004+0.006+0.002 なのですが、 -0.004+0.006+0.002=0 となるところが、 =8.47E-09 となってしま...
もっと調べる
1位
2位
3位
4位
5位
6位
7位
8位
9位
10位
11位
12位
13位
14位
15位
