使用的镜像为vllm-metax:0.24.0-maca.ai3.8.2.5-torch2.10-py312-ubuntu22.04-amd64
无法使用mtp或dspark,且模型部署后,调用工具时出现upstream error: ("error":{"message":"cannot import name 'normalize_tool_choice' From 'xgrammar" (/opt/conda/lib/python3.12/site- packages/xgrammar/init.py)","bype":"InternalServerError","param"null,"code":500]}
检查镜像后发现normalize_tool_choice未在镜像的init.py文件内出现。
请问如何处理?