オーダー‐エスティメーション【order estimation】
主に理工学の分野で用いられる、概算値の見積もり。複雑な現象を簡単な物理モデルに置き換え、近似式や既知の情報を元に、有効数字1〜2桁程度の概算をすること。この類の概算を得意とした物理学者エンリコ=...
ゼロ‐サプレス【zero suppress】
コンピューターのプログラムなどで、取り扱う数値の前後の余分な0を取り除く処理。有効数字4桁で表した9.800を9.8としたり、整数値の0001360を1360としたりする処理をさす。⇔ゼロパディング。
ゆうこう‐けたすう【有効桁数】
有効数字の桁数。例えば、近似値や測定値が150グラムの場合、その値が1グラム未満を四捨五入したものならば、有効数字は1、5、0で3桁となる。
ゆうこう‐すうじ【有効数字】
1 零を除く一から九までの数字。 2 近似値や測定値で信頼してよい数字。例えば、測定値150gが1g未満を四捨五入したものなら有効数字は1, 5, 0で1.50×102(g)と表し、10g未満を...