scofield

沐曦官方什么时候出qwen3.8 27B W8A8 ？

有没有C500的云服务器可以租赁的？
沐曦官方有和腾讯云或者阿里云合作 云服务器租赁吗？

SGLang社区 在哪里？

• 端点：POST /v1/chat/completions
• 模型：Qwen3.6-27B-W8A8
  返回结果中，
  Tool Call 用的是 XML 格式，不是 OpenAI 标准

日志中 tool call 输出是这样的：

<tool_call>
<function=get_highest_load_line>
<parameter=limit>10</parameter>
</function>
</tool_call>

请问，怎么配置，可以让模型 tool_call 返回 OpenAI 标准 , 而不是XML

python3 -m sglang.launch_server \
--model-path /root/models/Qwen3.6-27B-W8A8 \
--host 0.0.0.0 \
--port 30000 \
--tp-size 1 如何支持 function_calling

python3 -m sglang.launch_server \
--model-path /root/models/Qwen3.6-27B-W8A8 \
--host 0.0.0.0 \
--port 30000 \
--tp-size 1 我这样启动后，GPU显存占用了55G， 怎么优化？

C500, 单卡，可以跑Qwen3.6的哪个量化版本？ 如果跑不了，跑哪个模型最优？