Skip to content

[Feature] 希望能深度适配 智谱 的 GLM4.5 和 Qwen3 coder 480B ,谢谢 #1473

@zisongpro0715

Description

@zisongpro0715

检查清单

  • 1. 如果您提出的不是新功能而是问题,请在讨论区发起讨论 https://github.com/kvcache-ai/ktransformers/discussions。否则该 issue 将被关闭
  • 2. 为方便社区交流,我将使用中文/英文或附上英文/中文翻译(如使用其他语言)。未附带翻译的非英文/中文内容可能会被关闭

需求背景

这两个现在也算是 国产 最顶尖模型了, 希望可以适配 ,打算买新电脑做本地推理,不过Ktransformer 一直没有适配,所以只能等。
These two are now considered the top domestic models, and I hope they can be compatible. I plan to buy a new computer for local inference, but Ktransformer has not been adapted yet, so I can only wait.

相关资源

No response

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions