固定小数点数

最終更新日 2023年09月07日

基礎

固定小数点数とは、小数点の位置を固定した数字です。コンピューターの演算に固定小数点数を使用すると、小数を整数のように処理できるので演算しやすくなります。

固定小数点演算

コンピューターでは2進数ですが、イメージしやすいように10進数で例を出します。1000×0.01を演算する場合、0.01を見て小数点の位置が小数点以下の桁数が2になる位置と決めます。0.01を整数のように1とし処理でき、1000×1を演算し1000を得ます。決めた小数点の位置を加えると演算した結果が10です。このように固定小数点数を使用し演算する方法を固定小数点演算と呼びます。

キャンペーン情報(PR)
マウスコンピューター ・春のパソコンセール 最大70,000円OFF！！ (4月24日迄) DELL ・今週のおすすめ製品 対象製品が最大20％OFF (キャンペーン実施中) パソコン工房 ・WEB開催！スプリングセール ゲーミング・クリエイター向けパソコンなどをご用意 (4月23日迄)