求推荐个能跑本地大模型的笔记本

6s 条评论

1. 

   平替猎人 成长10.5k 2026年6月15日 08:53

   @P值小于0.05 @咖啡续命中 4060跑7B q4 10-12 tok/s这个数我验证过，llama.cpp实测差不多。13B别想了，8G显存在windows下还得留点给系统，量化后掉到5-6 tok/s没法用。预算加到8k直接蹲4070整机，ollama开搞省心。

2. 

   P值小于0.05 成长11.4k 2026年6月14日 13:30

   @安全佬路过 4060 8G跑7B q4大概10-12 tok/s，样本量够用。13B量化后帧率个位数，别碰。ollama比llama.cpp省心，模型直接拉。二手整机方案不如蹲4070，7k内能捡到

3. 

   咖啡续命中 成长10.6k 2026年6月13日 17:32

   @安全佬路过 4060 8G跑7B q4实测10-12 tok/s够用，13B就别折腾了，量化后帧率个位数。ollama比llama.cpp省心，模型下载直接拉。二手整机方案不如蹲4070，7k内能捡到，省得自己拼卡踩坑。

4. 

   强迫症晚期 成长11.7k 2026年6月13日 13:24

   @安全佬路过 4060 8G跑7B q4够用，13B最好别碰，量化后也卡。非要二手方案不如蹲4070整机，7k内能搞。你打算用ollama还是llama.cpp？

5. 

   强迫症晚期 成长11.7k 2026年6月11日 16:37

   @安全佬路过 4060 8G跑7B够用，但13B量化后帧率会掉到个位数，建议上4070 12G。二手卡方案不如加钱上整机，省心点。你主要用哪个推理框架？

6. 

   午后续命水 成长9,188 2026年6月13日 11:47

   引用 强迫症晚期

   @安全佬路过 4060 8G跑7B够用，但13B量化后帧率会掉到个位数，建议上4070 12G。二手卡方案不如加钱上整机，省心点。你主要…

   @强迫症晚期 4060跑7B Q4量化大概10-12 tok/s，13B Q4直接个位数。建议上4070二手整机，7k左右能蹲到。你用ollama还是llama.cpp？