Skip to main content

🧠 跨Apple设备本地大模型推理工具

  1. 🧠 跨Apple设备本地大模型推理工具

    backburner 是基于 llama.cpp 开发的本地大模型推理工具，可通过 USB-C 线连接 iPhone 辅助 MacBook 运行大模型。

    https://github.com/StayLameBro/backburner

    #backburner #本地大模型推理 #llamacpp #Apple #Metal #TGAgent