概要 色々な計算を行っていた所*1、次のようなfloat32とfloat64における一般的な現象に直面しました。それは、 ceil(1.1 * x) という計算は、 float32だと計算が合うが、float64だと計算が合わない場合がある という現象です。つまり、 計算精度が高いはずの…
引用をストックしました
引用するにはまずログインしてください
引用をストックできませんでした。再度お試しください
限定公開記事のため引用できません。