MetaX-Tech Developer Forum 论坛首页
  • 沐曦开发者
search
Sign in

Tao_01

  • Members
  • Joined 2026年4月22日
  • message 帖子
  • forum 主题
  • favorite 关注者
  • favorite_border Follows
  • person_outline 详细信息

Tao_01 has started 1 thread.

  • See post chevron_right
    Tao_01
    Members
    N260单卡Qwen3.5-9B推理性能问题 已解决 2026年4月22日 16:20

    使用cr.metax-tech.com/public-ai-release/maca/vllm-metax:0.17.0-maca.ai3.5.3.307-torch2.8-py312-ubuntu22.04-amd64镜像运行Qwen3.5-9B模型,性能测试只有2token/s,相同配置在C500上能跑出60token/s现在搞不清问题出在哪

  • 沐曦开发者论坛
powered by misago