czy7570

如题 请解答

八张c6500 的kmd版本比较低是3.0.11 mxsmi是2.3.4 maca是3.8.2.6 bios是1.27.5.0 启动参数是nohup vllm serve /data/Qwen/Qwen3.8-27b --served-model-name qwen3.8-27b --tensor-parallel-size 4 --gpu-memory-utilization 0.82 --max-model-len 4000 --dtype half --port 8016 --host 0.0.0.0 --trust-remote-code --reasoning-parser qwen3 --max-num-seqs 5 --disable-log-requests > /data/vllm-27b.log 2>&1 &