浮動小数点演算
最終更新日
2023年09月07日
浮動小数点演算とは
基礎
浮動小数点演算とは、浮動小数点数を使用する演算です。フドウショウスウテンエンザンと読みます。用語
浮動小数点数とは、小数点の位置を固定せずに動かす数字です。数字を仮数、基数、指数に分け、仮数×基数の指数乗とします。例えば1.2345×10の6乗とします。演算とは、コンピューターが計算することです。浮動小数点演算のメリット
コンピューターは扱えるデータのサイズが有限であり、浮動小数点数を使用しないと非常に大きな数字や非常に小さな数字を扱えません。浮動小数点数を使用する浮動小数点演算であれば、非常に大きな数字や非常に小さな数字を扱って演算を行えます。浮動小数点演算のデメリット
演算はコンピューターが搭載するプロセッサーが行います。浮動小数点演算はプロセッサーにかかる負荷が高く、浮動小数点演算が終わるまで時間がかかります。キャンペーン情報(PR) |
---|
マウスコンピューター
・オータムセール 最大50,000円OFF (10月9日迄) DELL ・今週のおすすめ製品 対象製品が特別価格でお買い得 (キャンペーン実施中) パソコン工房 ・決算セール セール対象BTOパソコン最大55,000円OFF (10月1日迄) |