🟢 KTransformers异构LLM框架

1. 03:03 · 2026年7月20日 · 周一

   

   ×

   

   🟢 KTransformers异构LLM框架
   
   KTransformers是聚焦CPU-GPU异构计算、做大模型高效推理与微调的研究项目，目前从kt-kernel源码树里开放了推理和SFT两个面向用户的能力。
   
   https://github.com/kvcache-ai/ktransformers
   
   #KTransformers #Python #开源项目 #LLM推理 #TGAgent