halcon深度学习，多神经网络运行速度慢

noobzen · 发表于 2019-11-14 17:30:45

当使用单神经网络运行的时候识别速度非常快，在0.2秒左右，当使用2个神经网络轮流运行的时候速度变慢，每个神经网络需要2.3秒左右，请大神指教，这是为什么？我用的是2070的8G显存的显卡，24G的内存，谢谢！！

Criss · 发表于 2019-11-17 21:35:47

估计是Halcon内部算子机制决定的，如果多个运行可能会线程调度方面互斥之类，相反导致了性能下降！

noobzen · 发表于 2019-11-21 17:01:56

Criss 发表于 2019-11-17 21:35
估计是Halcon内部算子机制决定的，如果多个运行可能会线程调度方面互斥之类，相反导致了性能下降！ ...

谢谢你的回复，我还在现象产生的原因

crazyraul008 · 发表于 2020-3-10 08:39:13

你好，我在尝试halcon的深度学习时，也碰到了与你一样的问题，即切换不同模型时，运行时间是之前的好几倍，我尝试的是Anomaly Detection的方式；如果切换模型需要这么久的时间，那么一个案例中，它的正样本有几种，3~4种，那切换模型用于推理时，那时间岂不是好几倍？
不知你现在的问题解决了没？

VisionヽSystem · 发表于 2020-12-28 11:15:19

楼主，您好！请问您遇到的问题解决了么？可以多模型运行了么