AnythingLLM+Ollama：5分钟搭本地知识库，小团队月入3万的副业新赛道

你有没有遇到过这种情况：公司内部文档散落在几十个文件夹里，新人翻三天都找不到一个合同模板；或者小老板花大价钱买了企业微信，却还是得靠人工检索FAQ——这时候他们最需要的不是一个AI对话机器人，而是一个能理解自家文档的“私人知识顾问”。

过去做这样的系统，得请后端工程师写RAG管道、部署向量库、调参数，动辄几万起步。但今年AnythingLLM + Ollama这套组合彻底把门槛踩平了——只要你会装软件、会点鼠标，就能给任何企业做个私有、离线、安全的本地知识库。而且市场里愿意为“本地私有化”付费的老板，比你想的多得多。

为什么是 AnythingLLM+Ollama？

• 零成本启动：Ollama可以拉取Llama3、Qwen2等开源模型，AnythingLLM自带向量数据库（默认LanceDB）和文档解析功能，两者结合等于一个完整的RAG系统，本地安装最多15分钟。
• 完全私有化：数据不出公司内网，律师、医生、金融从业者最吃这一套。很多小企业宁可付费也不愿把合同上传到公共AI平台。
• 可定制、可交付：帮客户装好软件、导入文档、调好系统提示词，收一次部署费（3000-8000元）或按月收维护费（500-2000元/月）。你不需要写一行代码，只需要花时间理解客户业务。

哪些场景最买单？

• 小型律所/法务部：把过往判决书、合同模板、合规手册导入，律师提问“类似案件的赔偿区间”立即出答案。可以省去大量检索时间，一个月服务一家律所就能赚回部署费。
• 教育培训机构：课程大纲、学员手册、常见问答导入后，做成内部助教机器人，老师或客服直接问“退费流程是什么”，秒回。这类客户预算不高但量大，一家3000元包安装+培训，一个月接5单就是1.5万。
• 本地连锁门店（餐饮、零售）：操作手册、卫生规范、员工培训资料做成知识库，店长用手机浏览器就能问“新员工入职流程”。按门店数收费，3家门店以内收2000元/年。

行动建议

第一步：自己先部署一套。用一台普通电脑（建议16GB内存以上），下载Ollama，拉取一个7B级模型（比如Qwen2:7b），再安装AnythingLLM，创建一个工作区，导入几个PDF试试问答效果。第二步：把过程录成视频或写成指南，发到朋友圈或本地创业社群，说“可帮企业搭建私有AI知识库，免费试用”。有人感兴趣就上门演示，现场教对方上传一份文件，问几个问题，成交率极高。这个方向适合有基础技术动手能力的独立开发者、IT自由职业者、AI工具爱好者，甚至在校计算机相关专业学生。不需要融资，不需要团队，一台电脑加两小时学习，就能开始赚第一单。