深度学习配置问题

朱颜改 · 发表于 2021-8-26 15:24:54

各位大佬，请教一下，我的电脑显卡为rtx2070 显存8g
训练图片为512*384三通道
运行pretrained_dl_classifier_compact.hdl设置batchsize最大只能设置到6，

我又更换分辨率高的图片1440*1080，然后在创建检测模型时候运行
create_dl_model_detection ('pretrained_dl_classifier_compact.hdl', |ClassIDs|, DLModelDetectionParam, DLModelHandle)出现报错
这个错误想请教一下是咋回事。我改小分辨率之后又能运行了，batchsize还是只能设置到6，想请问一下是这个配置只能batchsize这么大了吗？还是说代码配置问题