浮動小数点演算に一致する言葉

国語辞書(1)

• ふどうしょうすうてん‐えんざん【浮動小数点演算】

  小数点の位置が固定されない浮動小数点数を用いて行う四則演算。コンピューターにおいては、扱う数の絶対値が大きく異なっていても任意の誤差の範囲内で計算できるため、科学計算に向く。→固定小数点演算 [...