设置首页收藏本站
开启左侧

halcon深度学习推理速度优化

[复制链接]
122722 发表于 2023-11-30 23:32:41 | 显示全部楼层 |阅读模式
关于halocn深度学习的推理速度,有没有什么资料可以参考的,本人用笔记本测试,CPU推理比GPU还快,目前找不到能优化的地方,CPU加载跟初始化都比GPU要快很多,有没有大佬知道的。
奖励计划已经开启,本站鼓励作者发布最擅长的技术内容和资源,流量变现就在现在,[点我]加入吧~~~Go
fengyu1107 发表于 2023-12-20 08:26:39 | 显示全部楼层
你好,请教个问题: halcon异常值检测,模型训练好后导出模型文件。然后在HDevelop里编写推理程序,运行结果和在DL程序里不一样,知道什么原因吗?
奖励计划已经开启,本站鼓励作者发布最擅长的技术内容和资源,流量变现就在现在,[点我]加入吧~~~Go
易明AI视觉检测 发表于 2024-4-25 19:32:52 | 显示全部楼层
CPU和GPU之间会有数据通信。
在使用GPU进行计算时,流程大概是这样:CPU会将数据放入GPU中,GPU开始计算,算完之后将结果传回CPU。
如果在传数据的过程中耗费的时间大于直接使用CPU计算的时间,就会出现GPU计算比CPU慢的情况。
使用GPU计算时会有需要热机的情况发生,也就是刚起步时的几张图推理时间会很慢,当GPU利用率上来时,速度会趋于稳定。
奖励计划已经开启,本站鼓励作者发布最擅长的技术内容和资源,流量变现就在现在,[点我]加入吧~~~Go
您需要登录后才可以回帖 登录 | 注册

本版积分规则

快速回复 返回顶部 返回列表