やっぱりdoubleでは「76287755398823936」は表現できない | 月と燃素と、ひと匙の砂糖

テクノロジーカテゴリーの変更を依頼記事元:

7io.org

6 usersがブックマークコメント

記事へのコメント1件

注目コメント
新着コメント

seraphy "「x=1」と書いたら数学的には「x=1.000000000000000000….」だけど、物理学的にはそうではなく「0.5 <= x < 1.5」のあいだであるのと同じ。" "「76287755398823936=0b100001111000001110100111100110001010000100100000000000000」は最後の0まで意味がある"

2017/12/07 リンク

注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

規約違反を報告

いまの話題をアプリでチェック！

バナー広告なし
ミュート機能あり
ダークモード搭載

アプリをダウンロード

やっぱりdoubleでは「76287755398823936」は表現できない | 月と燃素と、ひと匙の砂糖

■出力側ソースコードのチェック！さて…では重い腰を上げてソースコードを読みましょうか…。　Firefoxで... ■出力側ソースコードのチェック！さて…では重い腰を上げてソースコードを読みましょうか…。　FirefoxでもChromeでも起きるなら、何かWindowsのライブラリのバグ…なんでしょうか。ま、いいや。とりあえずソースコードが探しやすそうなChromeから見てみましょう。それっぽいメソッドを探していくと…見つかりました。これですね。v8::internal::Grisu3()です。…あれ…？標準ライブラリじゃ…ない…！？うげぇめんどくさい… v8をWindows上でコンパイルするのはひたすら☆面倒†1なので、Ubuntu上でコンパイルしてCodeLiteというIDEをGDBのGUIラッパーとして使いました。これ、初めてだったんですが結構便利。Windowsでも使えるならちょっと試してみようかなってレベルです。EclipseCDTとは何だったのか。あとDDDとxxgdbはクソ。 ■原因は