2016-02-20から1日間の記事一覧

【JS】JavaScriptにおける数値の誤差

誤差パターン1:64ビット倍精度の数字範囲を超える場合 * JavaScriptの数値は「IEEE754」という規格に従って「64ビット倍精度」で行っている => 「64ビット倍精度」の数値範囲は、「-1.79769×10の308乗~1.79769×10の308乗」 例 var result1 = Math.pow(2, 5…