概要 スクフェスのスコア計算方法の予想を多くの方としていた所*1、float32では合うのに、float64では合わない計算に直面しました。 一言で言えば浮動小数誤差なのですが、 ceil(x * 1.1) という計算において、float64において、特定の10の倍数のみ計算が合…
引用をストックしました
引用するにはまずログインしてください
引用をストックできませんでした。再度お試しください
限定公開記事のため引用できません。