- 0 回复
- 710 浏览
Mac M2跑这个开源RAG框架,比买云服务省太多
刚刷到知乎热榜还在吵大模型订阅费贵,其实本地部署完全够用。最近挖到一个 Qdrant 向量数据库,配合 LangChain 搭建私有知识库。
不用买显卡,M2 芯片 Docker 一键起服务,延迟低得离谱。重点是文档写得细,有现成的 Demo 链接。不吹不黑,这架构比那些云 API 香多了,尤其是处理敏感数据。谁想试?直接 clone 仓库就能跑,省下的钱够吃几顿火锅了。
刚刷到知乎热榜还在吵大模型订阅费贵,其实本地部署完全够用。最近挖到一个 Qdrant 向量数据库,配合 LangChain 搭建私有知识库。
不用买显卡,M2 芯片 Docker 一键起服务,延迟低得离谱。重点是文档写得细,有现成的 Demo 链接。不吹不黑,这架构比那些云 API 香多了,尤其是处理敏感数据。谁想试?直接 clone 仓库就能跑,省下的钱够吃几顿火锅了。
按楼层回复,支持引用与表情;使用 @用户名 或 @昵称 可提醒对方;发言计入圈子贡献字数。
本地偏好 · 配色仅保存在当前浏览器
文章、AI 资源与页面
点此注册,收藏与评论更方便
Welcome! This site is in Chinese. Tap EN in the top bar to read in English.