各位好，
我们在 ARM 麒麟 + MetaX C550 × 8 环境上，按官方 vLLM-metax 镜像尝试部署智谱开源 GLM-OCR（ZhipuAI/GLM-OCR，约 0.9B 多模态 OCR），参考沐曦 Day 0 适配新闻及 GLM-OCR 官方 vLLM 部署文档，目前环境验证通过，但 vLLM 服务无法端到端启动，想确认是否有含 glm_ocr 原生实现的 vLLM-metax 版本/镜像可提供。
一、环境信息
项目 值
CPU / OS
ARM aarch64，Kylin V10（4.19.90-89.11.v2401.ky10.aarch64）
GPU
MetaX C550 × 8，单卡 64GB
驱动
mx-smi 2.2.12
容器镜像
cr.metax-tech.com/public-ai-release/maca/vllm-metax:0.11.0-maca.ai3.3.0.11-torch2.6-py310-kylin2309a-arm64
容器内
torch 2.6.0+metax3.3.0.2，8 卡可见，vLLM 0.11.0
模型路径
/root/models/GLM-OCR（config.json 中 model_type=glm_ocr，safetensors 齐全）
二、已验证通过的部分
宿主机 8 卡识别正常，mx-smi 正常
vLLM-metax 容器可启动，PyTorch/MACA 正常
GLM-OCR 权重落盘完整
离线 wheel 升级 transformers 至 5.3.0 成功
对 vllm/transformers_utils/tokenizer.py 打兼容补丁后，AutoTokenizer.from_pretrained 正常
三、阻塞现象（按复现顺序）
1）默认镜像未升级 transformers
直接 vllm serve 在 ModelConfig 阶段失败：
Value error, The checkpoint you are trying to load has model type glm_ocr
but Transformers does not recognize this architecture.
镜像内置 transformers 4.57.1，不满足 GLM-OCR 要求的 >=5.3.0。
--trust-remote-code 无效，日志提示该参数被忽略。
2）升级 transformers 5.3.0 后
越过 config 解析，但在 tokenizer 阶段报错（已通过补丁解决）：
AttributeError: TokenizersBackend has no attribute all_special_tokens_extended
3）tokenizer 补丁后，权重加载失败（当前终极阻塞）
日志显示无 GLM-OCR 原生 vLLM 实现，fallback 到通用后端后权重映射失败：
Resolved architecture: TransformersForMultimodalLM
WARNING TransformersForMultimodalLM has no vLLM implementation,
falling back to Transformers implementation.
INFO Using Transformers backend.
ERROR ValueError: There is no module or parameter named
'model.language_model.layers.16' in TransformersForMultimodalLM
RuntimeError: Engine core initialization failed.
启动时 vLLM-metax 会注册 Qwen2VL、Qwen3VL、DeepSeek 等，但日志中无 glm_ocr 注册项。
我们理解当前 vllm-metax 0.11.0 镜像缺少 glm_ocr 原生 Model 类，而 GLM-OCR 官方要求 vLLM >= 0.19.0。
另：--speculative-config MTP 投机解码在当前环境报 Speculative decoding with draft model is not supported yet，已去掉该参数。
四、当前启动命令（单卡试跑）
export CUDA_VISIBLE_DEVICES=1
vllm serve /root/models/GLM-OCR \
--port 8080 \
--served-model-name glm-ocr \
--allowed-local-media-path / \
--max-model-len 4096 \
--gpu-memory-utilization 0.60 \
--max-num-batched-tokens 1024 \
--enforce-eager
（已升级 transformers>=5.3.0 并完成 tokenizer 补丁）
五、已向社区/文档核对的信息
GLM-OCR 官方：pip install -U "vllm>=0.19.0" + transformers>=5.3.0
upstream vLLM 0.19+ 提供 vllm.model_executor.models.glm_ocr
沐曦 Day 0 新闻称 C500/C550 已适配 GLM-OCR，但我们手头 0.11.0 公开镜像无法跑通
我们评估过从 v0.19 拷贝 glm_ocr.py 到 v0.11，因 engine/loader/multimodal 接口差异及 MACA 算子适配，自行移植成本过高，希望走官方支持。
六、想请沐曦协助确认
是否有支持 GLM-OCR 的 vLLM-metax 镜像 tag（版本是否需 >= 0.19）？若有，请提供镜像名与推荐启动参数。
Day 0 适配所用环境与公开 0.11.0 镜像是否一致？若不一致，差异点是什么？
除 vLLM 外，C550 + ARM 麒麟 上是否有推荐的 SGLang 部署 GLM-OCR 方案或镜像？
若暂无公开镜像，是否有计划/时间表，或可提供内部 patch（glm_ocr Model 注册 + MACA 适配）？
七、补充说明
同机其他模型（如 Qwen3-Coder-30B）在同底座 vLLM-metax 0.11.0 上可正常 8 卡 TP 部署，说明基础环境正常。
OCR 生产侧我们暂用 PaddleOCR + Triton（v16）兜底，GLM-OCR 主要用于复杂文档场景验证。
感谢指点。如需完整日志或复现脚本，我们可以补充
