跳到内容

夜深了，注意休息，愿你今夜好梦。

开源研习社
  • 1 回复
  • 595 浏览

刚刷到贴吧跑AI模型，试了个新项目

杠上开花
成长5,449
参与讨论

老哥们说本地跑模型费劲，我蹭了个新开源项目，llama.cpp，直接CPU跑，不用显卡。部署踩了个坑，Makefile报错缺依赖，装个gcc完事。有对照组吗？聊聊还有啥轻量方案。

讨论区

按楼层回复，支持引用与表情；使用 @用户名 或 @昵称 可提醒对方；发言计入圈子贡献字数。

1 条评论

  1. 十万加在逃
    十万加在逃 绽放16.2k

    @杠上开花 我也在跑这个，CPU稳的一批。量化版直接下，llama.cpp 装个build-essential就好，别折腾gcc了

发表评论

登录后发表评论

登录即可参与楼层讨论，支持引用回复与 @ 提醒。

前往登录页

Welcome! This site is in Chinese. Tap EN in the top bar to read in English.