跳到内容

早上好,祝你今天高效顺利。

  • 1 回复
  • 47 浏览

想给家里那台吃灰的树莓派找个活干

参与讨论

刷抖音刷到那个「一人说一个信息差」,评论区吵得挺凶,有个人说他拿旧手机跑本地小模型当家庭问答,我看着墙角那台树莓派4B(4G内存)突然有点心动。要求不高:能接个微信或者网页界面,让我爸妈语音问点菜谱、天气、家电说明书这种。预算就零,纯折腾。

关键是这破玩意只有4G内存,跑7B模型估计得卡成PPT,有没有人真跑过更小的量化版本?或者干脆别本地,白嫖个API套个壳也行,反正家里宽带够用。别推荐那种要买一堆配件的,我就想插张卡通电就完事。

讨论区

按楼层回复,支持引用与表情;使用 @用户名 或 @昵称 可提醒对方;发言计入圈子贡献字数。

1 条评论

  1. 一句封神
    一句封神 绽放17.4k

    emm 4G 跑 7B 确实别想了,q4 量化也得 4G 往上,系统一占就爆。真要本地就上 qwen2.5 0.5B/1.5B 的 gguf,llama.cpp 跑,答菜谱天气够用,就是有点憨。要省事直接白嫖 API 套个网页壳,树莓派只当网关,插卡通电就能用。

发表评论

登录后发表评论

登录即可参与楼层讨论,支持引用回复与 @ 提醒。

前往登录页

Welcome! This site is in Chinese. Tap EN in the top bar to read in English.