kalai 发表于 2022-7-6 08:55:40

结果的精度


(setq L1 1000
       L2 1000
       L3 1000
       L4 1000
       L5 1000
)
(setq scount 10)
(setq L6 120
      H 6)
(setq sdist (/ (- (+ L1 L2 L3 L4 L5) (+ L6 (* 2 H))) (- scount 2)))

实际上，scount的值=608.5
但四舍五入到608
我如何获得实际价值？

pBe 发表于 2022-7-6 09:19:26

（setq sdist（/（浮点（-L1 L2 L3 L4 L5）（+L6（*2 H）））（-scount 2）））
 
如果你把一个整数除以一个整数，你会得到一个整数

Tharwat 发表于 2022-7-6 09:25:58

将系统变量dimzin设置为0，然后重试。

kalai 发表于 2022-7-6 09:35:13

谢谢，很有效

David Bethel 发表于 2022-7-6 09:49:10

 
DIMZIN只影响（rtos）&（angtos）调用。不是实际计算。（浮点）是解决整数除法问题的正确方法-大卫

Tharwat 发表于 2022-7-6 09:56:52

 
感谢David的澄清。
 
非常感谢。
 
塔瓦特
页: [1]
查看完整版本: 结果的精度