海光信息

Popular repositories Loading

1. inference-cookbook-das inference-cookbook-das Public

   本仓库整理了在 HCU 硬件上部署、调优和运行 AI 模型的经验与最佳实践

   Python 66 41

2. sglang-das sglang-das Public

   基于 sgl-project/sglang 上游社区版本建设的 das 下游适配仓库，面向 hcu 平台进行功能适配与优化。

   Python 45 70

3. vllm-plugin-das vllm-plugin-das Public

   基于 vLLM 上游社区版本建设的 das 插件仓库，为 hcu 平台提供功能适配、兼容支持与性能优化。

   Python 20 21

4. Megatron-LM-das Megatron-LM-das Public

   基于Megatron-LM上游社区版本建设的das插件仓库，为HCU平台提供功能适配、兼容支持与性能优化。

   Python 7 16

5. mooncake-das mooncake-das Public

   Forked from kvcache-ai/Mooncake

   Mooncake 在 Hygon HCU 平台上的适配仓库

   C++ 6 7

6. hcu-exporter hcu-exporter Public

   HCU-Exporter提供 HCU/vHCU 设备的监控指标，支持 Prometheus 集成。通过 HCU-Exporter，用户可以实时监控 HCU/vHCU 的温度、功耗、显存使用率等关键指标，确保设备的健康运行。

   Go 5 4