开启左侧

[HALCON文档] HDevelop字符串转小数丢失精度

[复制链接]
绝地武士 发表于 2022-8-10 14:35:33 | 显示全部楼层 |阅读模式
正常输入以下脚本代码:
  1. val:='-1064.902145'
  2. num:=number(val)
复制代码
或者直接输入
  1. val:=-1064.902145
复制代码
结果是多少?
你会发现打印出的是-1064.9,还有的小数位呢???

找不到吧?其实这个需要更改HDevelop软件设置:
微信图片_20220810143316.jpg
这里的精度应该是小数的所有位数,默认情况下只有6位,如果整数部分和小数部分多建议增加精度位数即可。

然后再运行一次,效果已经呈现:
微信截图_20220810143511.png
您需要登录后才可以回帖 登录 | 注册

本版积分规则

快速回复 返回顶部 返回列表