きどたかのブログスマートフォン用の表示で見るきどたかのブログいつか誰かがこのブログからトラブルを解決しますように。浮動小数点数わりとどうでも良い歴史の時間です。浮動小数点の規格についてふれておこう。ふむ、バグという名前の地雷を踏んだようだ。なんでこんなバグが残ってるんだ。おいらの自作Java累乗関数でも計算できるのに。-1の-1乗は1と誤り。-2の-1乗は-0.5と正しい。公式から予想するに、の処理が怪しい。いう言葉の由来だけでも奥が深い。C言語(JISX3010)ではこういう定義のようです。「整数型および実浮動小数点型を総称して実数型と呼ぶ。doubleの3種類とする。僕はきっと正しいはずだ。1d/3dが完璧な値を保持してると寝言を言う人に負けるな自分。小数点演算において、1÷3は無理数である。無理数を有限数のbitで表現する術はない。故に1d/3dは丸まっている。ブログを報告するスターをつけました引用をストックしましたストック一覧を見る閉じる引用するにはまずログインしてくださいログイン閉じる引用をストックできませんでした。再度お試しください閉じる限定公開記事のため引用できません。