把老笔记本改成本地推理机，居然能跑

家里那台吃灰的旧本子，8G 内存，闲着也是闲着，翻了翻发现个轻量推理框架，专门对付这种低配机器。

项目在这：ggerganov/llama.cpp，直接编译或者下预编译包，挂个量化过的 gguf 权重就能跑，CPU 也不挑。就是编译那步第一次卡在 cmake 版本上，升级完就顺了。