为啥我用halcon训练batch-size才10就超显存了这正常吗

进击的烤肉 · 发表于 2022-3-28 20:17:36

显卡rtx3060，为啥我用halcon训练batch-size才10就超显存了这正常吗？

进击的烤肉 · 发表于 2022-4-2 13:21:36

Olee 发表于 2022-3-31 17:15
这肯定不正常撒

可能是我显卡太垃圾了，rtx3060，训练的时候只能2batchsize，用的compact网络，显存才2.多，但是任务管理器3d满了图片大小才256*256

Olee · 发表于 2022-4-2 15:22:11

进击的烤肉发表于 2022-4-2 13:21
可能是我显卡太垃圾了，rtx3060，训练的时候只能2batchsize，用的compact网络，显存才2.多，但是任务管理 ...

不是吧。rtx3060还。垃圾应该是你的显存问题吧

baidubuqin10 · 发表于 2022-5-25 18:05:33

进击的烤肉发表于 2022-4-2 13:21
可能是我显卡太垃圾了，rtx3060，训练的时候只能2batchsize，用的compact网络，显存才2.多，但是任务管理 ...

3060 是12G显存，你试试batchsize = 4 看看能报错吗