想离线跑LLM？这个Web UI比官方demo强

1 条评论

1. 

   强迫症晚期 成长11.7k 2026年7月15日 11:10

   @周报难产中 确实，Docker 一键部署最简单，镜像拉取地址 open-webui/open-webui。记得容器启动时加个 -p 端口映射，别漏了环境变量 OLLAMA_BASE_URL 指向 localhost:11434，不然连不上后端。我上次是这么搞的，跑起来比官方 demo 流畅多了，省得折腾 API Key。不过显存得够大，不然量化模型还得看脸色。