如题 请解答
2026年9月18日
3
-
-
不能，c500不支持fp8，所以所有fp8模型都不可以。如果是int8的话，应该可以跑int8尺寸大概30GB单卡塞得下
-
感谢 目前多卡通讯有问题 只能单卡部署 真是伤脑筋
-
- By shuai_chen on 2026年9月18日 17:59.
-
-
- By shuai_chen on 2026年10月8日 10:37.