dポイントと交換できるWelcome!スタンプをあつめよう
辞書
有効数字の桁数。例えば、近似値や測定値が150グラムの場合、その値が1グラム未満を四捨五入したものならば、有効数字は1、5、0で3桁となる。
出典:デジタル大辞泉(小学館)
出典:教えて!goo
Perlの数値計算で有効桁数を上げたい
通常、Perlで数値計算をする場合、有効桁数は15~16桁になってしまいます。 これを、32桁、64桁と精度を上げて計算する方法はないでしょうか。 現在の環境は、Perl 5.8です。 よろしくお願...
有効桁数について
以下のようなデータ型の掛け算を行った場合の 有効桁数について教えてください。 decimal(38,4) × decimal(26,25) 私が確認したところ、 decimal(38,6)になっているようです。 なぜこのよう...
もっと調べる
1位
2位
3位
4位
5位
6位
7位
8位
9位
10位
11位
12位
13位
14位
15位