好的,(补充字数
嗯看启动命令是划分完了启动时还需要设置 --device 是吗
看文档是需要先手动划分显存吗?
请问一下,这个大概是什么问题有什么发现吗?
这个有进展吗, 我也遇到了如果是多模态模型vit和llm放到同一张卡上也有相同的问题,感觉是类似于这个问题?