Skip to main content

🧠 Bonsai本地运行演示仓库

  1. 🧠 Bonsai本地运行演示仓库

    Bonsai Demo 是用于本地运行 Bonsai 系列语言模型的演示仓库，支持在 Mac（Metal）、Linux/Windows（CUDA、Vulkan、ROCm）或 CPU 上部署 Bonsai 2、1-bit Bonsai、Ternary-Bonsai 模型。

    https://github.com/PrismML-Eng/Bonsai-demo

    #BonsaiDemo #本地大模型运行 #llamacpp #mlx #小参数模型 #TGAgent