出典:教えて!goo
数値計算における誤差について
小数点以下5~6桁の数値(整数部は1~5桁)を何度も積算するプログラムをSolaris7とWinXPで動作させたところ、同一データを使ったにもかかわらず誤差が生じました。非常に小さい差(0.2...
数値計算の高速化 (cos, sin, exp)
数値計算の計算コストに関しての質問です。 webなどで見ていると、「cos, sin, expは計算コストが 高く、高速化のために、他の計算方法で代用できる 場合は代用する」ということが書かれ...
数値計算向けのPC
大学の研究で数値計算をしなければなりません。 計算に使用するプログラムは市販されているもので、計算に必要な知識やノウハウなどはプログラムを動かしたり計算をしながら覚えてい...
もっと調べる