MetaX-Tech Developer Forum 论坛首页
  • 沐曦开发者
search
Sign in

Irony

  • Members
  • Joined 2026年4月2日
  • message 帖子
  • forum 主题
  • favorite 关注者
  • favorite_border Follows
  • person_outline 详细信息

Irony has posted 3 messages.

  • See post chevron_right
    Irony
    Members
    镜像包下载 已解决 2026年4月8日 15:12

    需要vllm-metax:0.12.0-maca.ai3.3.0.204-torch2.8-py310-kylinv11-amd64

  • See post chevron_right
    Irony
    Members
    同时运行推理、嵌入、排序模型卡在显存分配问题 已解决 2026年4月7日 17:33

    您好,请问是如何解决的啊?我是单卡c500,64g显存,尝试了sgpu分割成两块,然后在其中一块sgpu上跑qwen3_8B,能启动成功,但是测试模型输出要不是没有内容,要不就是几个汉字,跪求大佬解答

  • See post chevron_right
    Irony
    Members
    镜像包下载 已解决 2026年4月2日 14:14

    需要vllm-metax:0.15.0-maca.ai3.5.3.203-torch2.8-py310-kylinv11-amd64镜像离线包导出。

  • 沐曦开发者论坛
powered by misago