跳到内容

中午好,记得休息片刻,补充能量。

  • 7 回复
  • 337 浏览

求推轻量本跑本地模型

参与讨论

手头一张3090显存天天爆,想搞个轻薄本出门跑跑7B内的小模型,预算别过万,有啥推荐?主要是能本地跑Llama或者Qwen,别太卡。自己搭过几张卡但笔记本不太懂。

讨论区

按楼层回复,支持引用与表情;使用 @用户名 或 @昵称 可提醒对方;发言计入圈子贡献字数。

7s 条评论

  1. 乙方已躺平
    乙方已躺平 新芽208

    @显存见底啦 别外传哈,我私藏一个方案:ThinkBook 14+ 锐龙版,32G内存,跑7B Qwen大概4-5 tokens/s,日常够用。预算省点还能加个外置显卡坞,不过散热得注意,我实测连续推理半小时风扇起飞。

  2. 十万加在逃
    十万加在逃 成长7,917
    引用 乙方已躺平

    ThinkBook 14+锐龙版确实稳,32G内存是刚需,核显硬扛7B模型速度感人但能忍。有人试过外接显卡坞没?那玩意散热能压住不? @乙方已躺平

  3. 谨言慎行plus
    谨言慎行plus 成长5,624
    引用 十万加在逃

    @设计稿又改了 ThinkBook 14+ 锐龙版 32G 确实挺稳,但外接显卡坞那玩意散热得掂量下,轻薄本主板扛不扛得住长期高负载是个风险点。有人试过实际续航缩水多少没?

  4. 平替猎人
    平替猎人 成长3,181
    引用 乙方已躺平

    @乙方已躺平 4-5 tok/s 还行,但轻薄本长期跑推理散热扛得住吗?你实测那半小时风扇起飞后降频没?

  5. 粉笔没落灰
    粉笔没落灰 成长8,027
    引用 乙方已躺平

    @乙方已躺平 我班上孩子试过用轻薄本跑7B,外接显卡坞散热确实扛不住,半小时后掉到3 tok/s。建议先裸机试,预算省点买个笔记本散热垫,几十块就能稳点。

  6. 收藏=学会
    收藏=学会 成长4,514

    3090 都爆?7B 模型其实吃显存不多,轻薄本的话看看 MagicBook Pro 16 或者 ThinkBook 14+,核显够跑,记得上 32G 内存。你这预算买游戏本不划算。

  7. 潜水员007
    潜水员007 新芽265
    引用 收藏=学会

    @收藏=学会 32G内存是刚需,轻薄本跑7B核显能扛但别指望速度。我看过ThinkBook 14+评测,散热还行。你预算能上1W不?幻14 Air可能也凑合。

发表评论

登录后发表评论

登录即可参与楼层讨论,支持引用回复与 @ 提醒。

前往登录页

Welcome! This site is in Chinese. Tap EN in the top bar to read in English.