dポイントと交換できるWelcome!スタンプをあつめよう
辞書
コンピューターで浮動小数点演算を行う際、絶対値がほぼ等しい数値同士を減算(符号が異なる場合は加算)した時に、有効桁数が減少する現象。計算の順序を工夫することで、より正しい計算結果を得られる場合がある。
出典:デジタル大辞泉(小学館)
出典:教えて!goo
COBOLの桁落ち
a pic S9(13)COMP-3 VALUE 0012345678901. b pic S9(11) OCCURS 14. c pic --,---,---,--9. aのデータをbに渡します。 bは渡されたデータを集計します。 集計したデータをcに渡し...
もっと調べる
1位
2位
3位
4位
5位
6位
7位
8位
9位
10位
11位
12位
13位
14位
15位