MetaX-Tech Developer Forum 论坛首页
  • 沐曦开发者
search
Sign in
  • chevron_right Threads
  • label 产品&运维
  • label 解决中

请问8卡C600能否正常部署GLM5.2或者deepseek V4 pro的量化版本

Lsieens
2026年7月6日
chat_bubble_outline 1
  • link
    Lsieens
    Members 1 post
    2026年7月6日 18:51 2026年7月6日 18:51
    link

    你好:
    我单位即将采购一台8卡C600,2TB内存的服务器,想要咨询一下部署GLM5.2(官方有Day0适配),deepseek V4 pro这两个大语言模型能否在单服务器正常运行并开启1M上下文,如果不能开启,请问256K的话支持多少并发,以及可用的框架

  • arrow_forward

    Thread has been moved from 公共.

    • By shuai_chen on 2026年7月6日 19:00.
  • link
    shuai_chen
    Members 650 posts
    2026年7月7日 10:00 2026年7月7日 10:00
    link

    尊敬的开发者您好,请通过Business@metax-tech.com 商务邮箱咨询

arrow_upward Go to top
  • 沐曦开发者论坛
powered by misago