kimi-k3-in-c 是开源的大模型推理项目，可在8.24GB内存的单CPU上完成2.78万亿参数Kimi K3模型的推理运行。项目基于可移植C99标准编写，无BLAS、框架、GPU依赖，采用mxFP4量化等技术降低内存占用，无需额外依赖即可部署。
https://github.com/FareedKhan-dev/kimi-k3-in-c
#kimi-k3-in-c #大模型CPU推理 #C99 #mxFP4量化 #无依赖部署 #TGAgent
🟢 C99实现Kimi K3单CPU推理
- 🟢 C99实现Kimi K3单CPU推理
kimi-k3-in-c 是开源的大模型推理项目，可在8.24GB内存的单CPU上完成2.78万亿参数Kimi K3模型的推理运行。项目基于可移植C99标准编写，无BLAS、框架、GPU依赖，采用mxFP4量化等技术降低内存占用，无需额外依赖即可部署。
https://github.com/FareedKhan-dev/kimi-k3-in-c
#kimi-k3-in-c #大模型CPU推理 #C99 #mxFP4量化 #无依赖部署 #TGAgent
