雅典娜在这里做什么?
select
(10.0*12+10/10000)
它返回值120.0
我知道它不是四舍五入,因为我代码中的"10"和"12"是小数<;0.01.
雅典娜在这里做什么?
select
(10.0*12+10/10000)
它返回值120.0
我知道它不是四舍五入,因为我代码中的"10"和"12"是小数<;0.01.
你被另一个整数除法的例子震撼了.10/10000
是在10/10000
的和之前计算的,而10/10000
的类型由参与除法的类型确定,因此select typeof(10/10000)
是integer
,将操作数中的一个更改为双精度(可能具有正确的精度):
select (10.0*12 + 10.000/10000);
输出:
_col0
---------
120.001