out of compute device memory halcon 4104

wyc8806 · 发表于 2019-9-24 14:53:47

set_dl_model_param (DLModelHandle, 'runtime_init', 'immediately')
error
out of compute device memory halcon 4104

深度学习目标检测总是报这个错误，用的是resnet50 网络其他网络就没事。为啥呢？

jash · 发表于 2019-9-25 09:19:14

不同的網路骨架需要不同的記憶體大小
錯誤訊息指出你的記憶體空間不足
你可以嘗試更小的訓練影像大小
或是將預設的BatchSize參數降低