MetaX-Tech Developer Forum 论坛首页
  • 沐曦开发者
search
Sign in

Lsieens

  • Members
  • Joined 2026年7月6日
  • message 帖子
  • forum 主题
  • favorite 关注者
  • favorite_border Follows
  • person_outline 详细信息

Lsieens has started 1 thread.

  • See post chevron_right
    Lsieens
    Members
    请问8卡C600能否正常部署GLM5.2或者deepseek V4 pro的量化版本 解决中 2026年7月6日 18:51

    你好:
    我单位即将采购一台8卡C600,2TB内存的服务器,想要咨询一下部署GLM5.2(官方有Day0适配),deepseek V4 pro这两个大语言模型能否在单服务器正常运行并开启1M上下文,如果不能开启,请问256K的话支持多少并发,以及可用的框架

  • 沐曦开发者论坛
powered by misago