丸め誤差で始まる言葉

国語辞書(1)

• まるめ‐ごさ【丸め誤差】

  《rounding error》四捨五入や切り上げ・切り捨てにより生じる数値計算上の誤差のこと。二進法に基づくコンピューターによる数値計算の場合、この影響が顕著に現れる場合があるため、より正しい...