出典:教えて!goo
FP4という浮動小数点演算4桁の割り当ては?
NVIDIAのBlackwellはFP4という浮動小数点演算4桁で行うみたいですが、これらのbitの割り当てってどうなっていますか? 符号部 指数部 仮数部の割り当てです。
浮動小数点の正規化の必要性について
浮動小数点の正規化の必要性について教えてください。 浮動小数点で数を表す際に、正規化は必ずしも必要なもの(行わなければならないもの)なのでしょうか? また浮動小...
浮動小数点演算を固定小数点演算へ変換する
あるプログラムの処理を高速化するために浮動小数点数を固定小数点数に変換したいので、皆様の力を貸してください。 以下のようなプログラムがあります。 -------------------------------------...
もっと調べる