固定小数点演算（こていしょうすうてんえんざん）とは？意味・読み方・使い方

ブックマークへ登録

意味
例文
慣用句
画像

こていしょうすうてん‐えんざん〔コテイセウスウテン‐〕【固定小数点演算】
の解説

小数点の位置が固定された固定小数点数を用いて行う四則演算。コンピューターにおいては、扱う数の絶対値の範囲が限られている計算に用いられ、あたかも整数値のように扱うことで処理が容易になり、高速で計算できる。→浮動小数点演算

[補説]例えば「1500×0.06」という乗算の場合、いったん「1500×6＝9000」と整数化して計算したのち、小数点以下の桁数（2桁）から小数点の位置（左に2桁ずれる）を決めて「90」を得る。コンピューターでの実際の演算処理は二進法で行われる。

「こてい【固定】」の全ての意味を見る

出典：デジタル大辞泉（小学館）

固定小数点演算のカテゴリ情報

出典：デジタル大辞泉（小学館）

［IT用語］の言葉

［数学］の言葉

［数学の言葉］の言葉

新着ワード

固定小数点演算の前後の言葉

固定小数点演算の関連Q&A

出典：教えて！goo

goo辞書とは

goo辞書は無料で使える辞書・辞典の検索サービスです。1999年にポータルサイト初の辞書サービスとして提供を開始しました。出版社による信頼性の高い語学辞典（国語辞書、英和辞書、和英辞書、類語辞書、四字熟語、漢字など）と多種多様な専門用語集を配信しています。すべての辞書をまとめて検索する「横断検索」と特定の辞書を検索する「個別検索」が可能です。国語辞書ではニュース記事や青空文庫での言葉の使用例が確認でき、使い方が分からない時に便利です。