一:先放解决的方法
把所有需要精确计算的数据先转成decimal,用decimal进行精确计算
更详情的用法参考包:github.com/shopspring/decimal
package main
import (
"log"
"github.com/shopspring/decimal"
)
func main() {
xdecimal, err := decimal.NewFromString("1129.6")
if err != nil {
log.Println("转化decimal失败", err)
}
ydecimal := decimal.NewFromFloat(3)
resultdecimal := xdecimal.Mul(ydecimal)
log.Println(resultdecimal) //112960
}
二,Golang浮点数存在一些问题
1,两个浮点数相加减,可能不准确
(1)相减
x := 74.96
y := 20.48
b := x - y
fmt.Println(b) //output: 54.47999999999999
(2)相加
var a = 0.6
fmt.Println(a + 0.7) //output: 1.2999999999999998
· 出现浮点数不精确的原因是,浮点数储存至内存中时,2的-1、-2……-n次方不能精确的表示小数部分,所以再把这个数从地址中取出来进行计算就出现了偏差。
· 不是所有的float相加减乘除都一定出现偏差,具体要根据golang实现IEEE 754的情况定。
2,float32和float64直接互转会精度丢失, 四舍五入后错误
3,int64转float64在数值很大的时候出现偏差
4,两位小数乘100强转int, 比期望值少了1
// case: float32==>f

273

被折叠的 条评论
为什么被折叠?



