js数值类型浮点数计算不精确处理

2021-03-01 14:26

阅读:425

标签:数值类型   数值   打印   col   color   number   类型   计算   pre   

    var number = 0.1 + 0.2;
    console.log(number);//打印结果是:0.30000000000000004

    //转换成整数在计算
    var number = (0.1*10 + 0.2*10) / 10;
    console.log(number);//打印结果是0.3

    //为什么不精确这是计算机转换成二进制后的误差导致的

 

js数值类型浮点数计算不精确处理

标签:数值类型   数值   打印   col   color   number   类型   计算   pre   

原文地址:https://www.cnblogs.com/dazahui/p/14409965.html


评论


亲,登录后才可以留言!