Content-Length: 201453 | pFad | http://b.hatena.ne.jp/babydaemons/C++/float/
浮動小数点数型と誤差
有限桁 Ｃ言語で扱える実数値は，２進数の有限小数で表された数値である．例えば次のようなものである． 1.5(10) = 1.1(2) 3.25(10) = 11.01(2) 理論的には小数が無限に続く値でも，そのうちの有限個の桁数でその値を表すしかない． 例えば，0.1 を２進数の小数で表すと 0.1(10) = 0.000110011001100110011...(2) と無限に続くが，コンピュータの内部では有限桁で丸められている． このような場合には，本当の値ではなく，近似値でしか表すことができない． 指数表記（浮動小数点表記） 科学計算では非常に大きな実数値や非常に小さな実数値も扱うことがある． そのようなときには，通常の１０進数の表記ではなくて，次のような指数表記で表すれば 無駄な 000...000 という桁を表記しなくてもよくなる． 1234567890000000000000
floatの有効桁数 - OKWAVE
IEEE754の単精度浮動小数点数では、符号1ビット、指数部8ビット、仮数部23bitの32bitで数値を表現しています。 (厳密に言えば、Cの言語仕様では、floatの内部表現がどうなっているかは規定されていませんが、今時大抵のコンピュータでは、このIEEE754に基づいた内部表現が使われていますので、32bitの内訳がこれ以外の環境を考える必要はまずないと思います) さて、この仮数部23bitに対し、最上位に暗黙の1が追加された24bitを仮数として浮動小数点表記を行うわけですが、 ここで安直に「だから有効精度は24bit」にはならないことに注意してください。最上位は1で固定なのですがから、24bit分の表現能力は持っていないのです。 このとき、表現できる数値の最小差は、2進数表記で 1.0000_0000_0000_0000_0000_000b: 二進数で1の後に0が23個(仮数部表
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Fetched URL: http://b.hatena.ne.jp/babydaemons/C++/float/
Alternative Proxies:
