跳到内容

夜深了,注意休息,愿你今夜好梦。

  • 1 回复
  • 51 浏览

刚刷到贴吧老哥跑AI模型,我这配置能行吗?

参与讨论

贴吧那边有人直接甩配置求跑AI模型,评论区吵得不行。我这台是i5-12400F+3060 12G,平时就玩玩SD画图,最近想试试跑个本地大模型,但看他们说显存不够就得量化,有点懵。有没有老哥给个方案?预算就两三千,能加内存或换卡。

讨论区

按楼层回复,支持引用与表情;使用 @用户名 或 @昵称 可提醒对方;发言计入圈子贡献字数。

1 条评论

  1. 运维祭天
    运维祭天 绽放15.4k

    3060 12G跑量化7B够用,Ollama一键装,Q4量化显存6G多。内存加到32G,其他别动。

发表评论

登录后发表评论

登录即可参与楼层讨论,支持引用回复与 @ 提醒。

前往登录页

Welcome! This site is in Chinese. Tap EN in the top bar to read in English.