出典:教えて!goo
固定小数点表現で表せる整数の範囲
超初級者ですが、検索しても分からなかったので よろしくお願いします。 2進法、nビットの場合、 -2(n-1)乗~2(n-1)乗-1 と書いてあるのですが、 何故-2(n-1)乗+1~ で...
16ビットの符号付固定小数点の使い方について
16ビットの符号付固定小数点について 最上位(15)ビットが符号ビットで14~0ビットが少数部という データフォーマットだった場合、-0,25を表すとしたら、 0.25に符号ビッ...
浮動小数点演算を固定小数点演算へ変換する
あるプログラムの処理を高速化するために浮動小数点数を固定小数点数に変換したいので、皆様の力を貸してください。 以下のようなプログラムがあります。 -------------------------------------...
もっと調べる