js数值类型浮点数计算不精确处理
2021-03-01 14:26
阅读:425
标签:数值类型 数值 打印 col color number 类型 计算 pre js数值类型浮点数计算不精确处理 标签:数值类型 数值 打印 col color number 类型 计算 pre 原文地址:https://www.cnblogs.com/dazahui/p/14409965.html
var number = 0.1 + 0.2;
console.log(number);//打印结果是:0.30000000000000004
//转换成整数在计算
var number = (0.1*10 + 0.2*10) / 10;
console.log(number);//打印结果是0.3
//为什么不精确这是计算机转换成二进制后的误差导致的
评论
亲,登录后才可以留言!