出典:教えて!goo
平均値をとると有効数字が増える?
普通の物差しで測った有効数字3ケタのデータ 2.0[mm] 2.1 2.2 2.1 1.9 2.0 があったとします。各データには±0.1程度の誤差があると考えられます。 これらの合計をとると,和の場合の有効数字は末...
物理の有効数字
有効数字を考慮する問題で、1時間や1分などの単位を秒にする場合、何桁と考えればいいのですか? 問題やってて疑問だったので解答お願いします。
有効数字について
一般的な電流計として考えてください。 電流計の-端子が500mAの端子に接続されているとします。 そして、針が200のところを指しているとします。 この時、有効数字を考...
もっと調べる