开源研习社

2026年7月18日 15:10
更新于 2026年7月18日 15:10
1 回复
593 浏览

刚刷到贴吧跑AI模型，试了个新项目

杠上开花成长5,401

老哥们说本地跑模型费劲，我蹭了个新开源项目，llama.cpp，直接CPU跑，不用显卡。部署踩了个坑，Makefile报错缺依赖，装个gcc完事。有对照组吗？聊聊还有啥轻量方案。

讨论区

按楼层回复，支持引用与表情；使用 @用户名或 @昵称可提醒对方；发言计入圈子贡献字数。

1 条评论

十万加在逃 绽放16.2k 2026年7月18日 15:12

@杠上开花我也在跑这个，CPU稳的一批。量化版直接下，llama.cpp 装个build-essential就好，别折腾gcc了

发表评论取消回复

登录后发表评论

登录即可参与楼层讨论，支持引用回复与 @ 提醒。

前往登录页

Welcome! This site is in Chinese. Tap EN in the top bar to read in English.