• Python技法:浮点数取整、格式化和NaN处理

    强转int类型会直接对浮点数的小数部分进行截断(无论是正还是负)。还有一种方法是math.ceil和math.floor。无论是正数还是负数,都遵循:ceil往数轴正方向取整,floor往数轴负方向取整。round原型为round(value, ndigits),可以将一个浮点数取整到固定的小数位。... ...
    Python 浮点数 格式化 NaN   2022-05-21 20:58
  • 「js奇妙说」如何跟非计算机从业者解释,为什么浮点数计算0.1+0.2不等于0.3?

    壹 ❀ 引 0.1+0.2不等于0.3,即便你不知道原理,但也应该听闻过这个问题,包括博主本人也曾在面试中被问到过此问题。很遗憾,当时只知道一句精度丢失,但是什么原因造成的精度丢失却不太清楚。而我在查阅资料的过程中发现,大部分文章都是假定了你有一定计算机基础,对于非此专业的人来说,可能文章读起来就显 ...
    js   2022-05-22 16:55