用HY3 Day0镜像拉起W8A8 HY3模型 ，报错 (APIServer pid=595) RuntimeError: HYV3ReasoningParser reasoning parser could not locate think start/end tokens in the tokenizer!
yumerio
- Members
- Joined 2026年6月20日
-
www.modelscope.cn/models/cyankiwi/MiniMax-M3-AWQ-INT4
AWQ INT4是不是这个sglang不支持，8卡C500会报错ValueError: Thelayer_typesentries must be in ('full_attention', 'sliding_attention', 'chunked_attention', 'compressed_sparse_attention', 'heavily_compressed_attention', 'linear_attention', 'conv', 'mamba', 'attention', 'sparse', 'dense', 'hybrid', 'moe') but got ['full_attention', 'full_attention', 'full_attention', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse', 'minimax_m3_sparse']