出典:教えて!goo
数値計算の時間の刻み幅について
数値計算の際、一般的には時間の刻み幅を大きくすれば計算精度は落ち、小さくすれば精度は上がると言われていますが、それはなぜなのでしょうか?
数値計算における誤差について
小数点以下5~6桁の数値(整数部は1~5桁)を何度も積算するプログラムをSolaris7とWinXPで動作させたところ、同一データを使ったにもかかわらず誤差が生じました。非常に小さい差(0.2...
数値計算の高速化 (cos, sin, exp)
数値計算の計算コストに関しての質問です。 webなどで見ていると、「cos, sin, expは計算コストが 高く、高速化のために、他の計算方法で代用できる 場合は代用する」ということが書かれ...
もっと調べる