设置首页
收藏本站
在线聊天
授权版本:2024_09
切换到宽版
登录
注册
搜索
搜索
本版
帖子
用户
快捷导航
首页
门户首页
社区
社区首页
头条
今日头条、最新贴、回复贴等
授权
Halcon试用授权下载
Halcon授权
Halcon视觉技术网
»
社区
›
视觉软件技术
›
Halcon软件
›
HDevelop字符串转小数丢失精度
返回列表
[HALCON文档]
HDevelop字符串转小数丢失精度
[复制链接]
绝地武士
发表于 2022-8-10 14:35:33
|
显示全部楼层
|
阅读模式
正常输入以下脚本代码:
val:='-1064.902145'
num:=number(val)
复制代码
或者直接输入
val:=-1064.902145
复制代码
结果是多少?
你会发现打印出的是-1064.9,还有的小数位呢???
找不到吧?其实这个需要更改HDevelop软件设置:
这里的精度应该是小数的所有位数,默认情况下只有6位,如果整数部分和小数部分多建议增加精度位数即可。
然后再运行一次,效果已经呈现:
奖励计划已经开启,本站鼓励作者发布最擅长的技术内容和资源,流量变现就在现在,
[点我]
加入吧~~~Go
回复
使用道具
举报
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
照妖镜
返回列表
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
注册
本版积分规则
发表回复
回帖并转播
回帖后跳转到最后一页
快速回复
返回顶部
返回列表