GitHub 热门·· 6 天前AI 评分43
FareedKhan-dev 展示 Kimi K3 在单 CPU 和 8.24 GB RAM 下运行
FareedKhan-dev / kimi-k3-in-c
摘要/原文摘录
GitHub 用户 FareedKhan-dev 发布项目,展示了拥有 2.78-trillion-parameter 参数的 Kimi K3 模型在单个 CPU 上运行的推理能力。该项目仅需 8.24 GB 的内存即可运行。代码采用 Portable C99 标准编写,不依赖 BLAS、任何框架或 GPU。
来源:GitHub 热门 · github.com