• 意味
  • 例文
  • 慣用句
  • 画像

rounding error四捨五入切り上げ切り捨てにより生じる数値計算上の誤差のこと。二進法に基づくコンピューターによる数値計算の場合、この影響が顕著に現れる場合があるため、より正しい計算結果を得るためには、プログラムの工夫などが必要となる。