概要 色々な計算を行っていた所*1、次のようなfloat32とfloat64における一般的な現象に直面しました。それは、 ceil(1.1 * x) という計算は、 float32だと計算が合うが、float64だと計算が合わない場合がある という現象です。つまり、 計算精度が高いはずの…
スクフェスを初めて通算ログイン日数実に157日目、ついにロイヤルエキスパートの称号をゲットした。 エキスパート+で初めて課題に詰まった時は、当時の現状で全く行き詰まったと思った。そこからどれだけ練習すれば先に進めるか全くわからなかった。 でもtwi…
引用をストックしました
引用するにはまずログインしてください
引用をストックできませんでした。再度お試しください
限定公開記事のため引用できません。