Posts | fly_on_sky | 沐曦开发者论坛

See post chevron_right

fly_on_sky
Members

qwen3.5 397b官方有提供int4量化的吗？已解决 2026年6月15日 12:37

我不用PD分离
See post chevron_right

fly_on_sky
Members

minimax m3要部署的话，C550大概需要几P几D才够？已解决 2026年6月15日 12:35

我不用pd分离可以部署吗？如何部署
See post chevron_right

fly_on_sky
Members

qwen3.5 397b官方有提供int4量化的吗？已解决 2026年6月15日 12:35

请问2台C550的情况下如何部署W8A8的模型呢？有方案吗
See post chevron_right

fly_on_sky
Members

qwen3.5 397b官方有提供int4量化的吗？已解决 2026年6月15日 10:32

我只有2台C550，无法做PD分离部署，请问有没有合适的部署方案？计划是部署qwen3.5 397b或者minimax M3，还需要能空出几张卡，后续部署和训练yolo模型用，能否实现？可以的话，上下文最大开多少？并发可以抗多少？
See post chevron_right

fly_on_sky
Members

minimax m3要部署的话，C550大概需要几P几D才够？已解决 2026年6月15日 10:26

我只有2台C550的话，可以部署吗？用vLLM性能差多少
See post chevron_right

fly_on_sky
Members

minimax m3要部署的话，C550大概需要几P几D才够？已解决 2026年6月15日 10:22

如果换成C588的话，需要1P2D，至少3机吗
See post chevron_right

fly_on_sky
Members

minimax m3要部署的话，C550大概需要几P几D才够？已解决 2026年6月13日 14:37

minimax m3要部署的话，C550大概需要几P几D才够？