您好,正在积极处理:
- vllm-metax 0.11.2、0.12.0、0.13.0、0.14.0版本均依赖torch2.8;
- 上述这些版本都可以基于vllm-metax:0.11.2-maca.ai3.3.0.103-torch2.8-py310-ubuntu22.04-amd64镜像,在这个镜像内编译按照vllm、vllm-metax,如果还有问题请及时反馈,谢谢。
vllm-metax:0.11.2-maca.ai3.3.0.103-torch2.8-py310-ubuntu22.04-amd64镜像下载链接:
developer.metax-tech.com/softnova/docker?chip_name=%E6%9B%A6%E4%BA%91C500%E7%B3%BB%E5%88%97&package_kind=AI&dimension=docker&deliver_type=%E5%88%86%E5%B1%82%E5%8C%85&ai_frame=vllm-metax&python_version=3.10&system=ubuntu