如何解决Mysql乘法除法精度不一致问题


这篇文章主要介绍如何解决Mysql乘法除法精度不一致问题,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!问题今天在写项目功能的时候,有一个统计金额的情况,然后需要进行单位转换,所以写下了大概如下功能的语句,但得到的数据为小数点后4位精度,正常我们只需要2位就足够。select total_fee / 100 from orders继续排查寻找资料,进行精度转换,找了一圈的资料都不太满意,继续进行测试测试测试bug和未知情况,我们一定要最小复现,精简测试 ,防止其他语句对结果产生干扰。select 1 / 100;
// 得到 0.0100
select 1 * 0.01;
// 得到 0.01并且在3/4台设备上运行,不同mysql版本环境都是这样子的结果。所以初步得知Mysql中,乘法和除法对小数点后的精度不一致在国内的论坛中没有找到合适的资料,于是到国外论坛寻找,提问,交流。答案首先感谢其他前辈对问题的解答和指点,我们也将尽量详细地记录问题的排查。文明之所以能延续,是因为它们有记忆。希望文章也能帮到更多的朋友。除法的精度默认是小数点后4位乘法的精度使用操作数的精度和 的方式来判断,如例子中的1*0.01 精度分别是小数点后0位和2位,那么就是0+2 =2 结果也将使用2位精度测试select 1.00 * 0.01;
// 结果 0.0100符合上诉结论。感谢国外前辈指教。除法使用2位精度那么我们的问题 如果是要坚持用除法解决,我们可以使用函数来进行转换精度,CAST( @x / @y AS DECIMAL(m,n) )DECIMAL的参数可以百度看这个,基本创建过表结构的都能明白。@x和@y就是除数和被除数。同时我还提出疑问,是否能在mysql里设置默认除法精度,我们就可以不用每次sql都使用函数计算了。前辈回复:如果你不想有时候出现出乎意料的情况,那么需要每次都强制使用类型转换。mysql相关说明文献https://dev.mysql.com/doc/refman/8.0/en/arithmetic-functions.htmlIn division performed with开发云主机域名 /, the scale of the result when using two exact-value operands is the scale of the first operand plus the value of the div_precision_increment system variable (which is 4 by default). For example, the result of the expression 5.05 / 0.014 has a scale of six decimal places (360.714286).除法的精度规则由上面引用的文献可知:当使用两个数值进行计算时,结果的精度由第一个操作数的精度 + 系统变量div_precision_increment的值决定 ,如我们例子中的1 精度是0,系统变量精度是4位默认,所以得到的结果是4位精度set div_precision_increment = 2;
// 再运行select 1 / 100; 得到 0.01 符合想要的结果所以我们还可以通过修改默认变量,来改变除法的默认精度。此时我们再测试select 1.0 / 100;
// 结果 0.010 符合上文所述结论以上是“如何解决Mysql乘法除法精度不一致问题”这篇文章的所有内容,感谢各位的阅读!希望分享的内容对大家有帮助,更多相关知识,欢迎关注开发云行业资讯频道!

相关推荐: 测试MySQL逻辑物理备份教程

下文主要给大家带来测试MySQL逻辑物理备份教程,希望这些内容能够带给大家实际用处,这也是我编辑测试MySQL逻辑物理备份教程这篇文章的主要目的。好了,废话不多说,大家直接看下文吧。MySQL逻辑物理备份测试目录逻辑备份mysqldump普通备份mysqlpu…

免责声明:本站发布的图片视频文字,以转载和分享为主,文章观点不代表本站立场,本站不承担相关法律责任;如果涉及侵权请联系邮箱:360163164@qq.com举报,并提供相关证据,经查实将立刻删除涉嫌侵权内容。

(0)
打赏 微信扫一扫 微信扫一扫
上一篇 06/19 14:34
下一篇 06/19 14:34

相关推荐