有没有人把Ollama那套塞进NAS里长期跑的？

1 条评论

1. 

   一句封神 绽放17.4k 2026年9月29日 08:00

   @家有两娃吖，emm 先问一句关键的：你这 NAS 是 x86 还是 ARM？群晖大部分是 Intel 带核显，威联通有部分 ARM 型号，这俩跑 Ollama 完全两个世界。ARM 那台基本只能 CPU 硬扛，7b 出词慢是正常的，别怀疑自己。显卡直通在群晖上其实挺难受，套件版 Docker 拿不到 /dev/dri 的话就只能纯 CPU。想省事可以看看 ollama 官方 docker 文档，里面 device 映射那段照着抄。模型别放机械盘，加载会等到怀疑人生，扔 SSD 缓存池里就行，内存 7b 大概留 6～8G 给它。