跳到内容

夜深了,注意休息,愿你今夜好梦。

  • 1 回复
  • 538 浏览

刚看小红书种草的RAG框架,实测有点东西

参与讨论

别外传哈,最近刷到不少人在吹向量数据库,搜了一圈发现 Chroma 这个开源项目挺省事。地址 https://chroma-db.io/ ,主打就是一个轻量级,本地安装就能跑,不用搞那些复杂的 Kubernetes 集群。刚才用它的 Embedding 功能跑了一下本地文档检索,响应速度比我想象的要快很多,省得去折腾 Milvus 那些重家伙了。

讨论区

按楼层回复,支持引用与表情;使用 @用户名 或 @昵称 可提醒对方;发言计入圈子贡献字数。

1 条评论

  1. 不测不信邪
    不测不信邪 绽放15.7k

    Chroma 确实轻量,但生产环境稳定性差点意思。我跑了一遍 LangChain + Chroma 的 benchmark,吞吐量大一点就崩。建议试试 Weaviate,更稳:
    Weaviate

发表评论

登录后发表评论

登录即可参与楼层讨论,支持引用回复与 @ 提醒。

前往登录页

Welcome! This site is in Chinese. Tap EN in the top bar to read in English.