Snow Ha凛ちゃん!

ラブライブに関するあれこれ

2019-03-01から1ヶ月間の記事一覧

スクフェスのスコア計算方法の予想をしていたら、浮動小数の深みを見た話 - 「float32では合うのに、float64では合わない計算」

概要 スクフェスのスコア計算方法の予想を多くの方としていた所*1、float32では合うのに、float64では合わない計算に直面しました。 一言で言えば浮動小数誤差なのですが、 ceil(x * 1.1) という計算において、float64において、特定の10の倍数のみ計算が合…