固定小数点数
最終更新日
2023年09月07日
固定小数点数とは
基礎
固定小数点数とは、小数点の位置を固定した数字です。コンピューターの演算に固定小数点数を使用すると、小数を整数のように処理できるので演算しやすくなります。固定小数点演算
コンピューターでは2進数ですが、イメージしやすいように10進数で例を出します。1000×0.01を演算する場合、0.01を見て小数点の位置が小数点以下の桁数が2になる位置と決めます。0.01を整数のように1とし処理でき、1000×1を演算し1000を得ます。決めた小数点の位置を加えると演算した結果が10です。このように固定小数点数を使用し演算する方法を固定小数点演算と呼びます。キャンペーン情報(PR) |
---|
・ウィンターセール 最大50,000円OFF (2月5日迄) DELL ・今週のおすすめ製品 対象製品が最大15%OFFでお買い得 (キャンペーン実施中) パソコン工房 ・パソコン大売出しSALE 対象BTOパソコン最大40,000円OFF (2月18日迄) |