开源研习社

别外传哈，最近刷到不少人在吹向量数据库，搜了一圈发现 Chroma 这个开源项目挺省事。地址 https://chroma-db.io/ ，主打就是一个轻量级，本地安装就能跑，不用搞那些复杂的 Kubernetes 集群。刚才用它的 Embedding 功能跑了一下本地文档检索，响应速度比我想象的要快很多，省得去折腾 Milvus 那些重家伙了。

群里有人转了个链接，说Arxiv上的新模型能直接解析PDF生成可运行Python脚本。刚去看了下主页，CodeGenie 这个项目最近star涨得挺猛，主打一个端到端的文档理解加代码生成。不用自己搭RAG链路，直接扔论文进去试试。正好手头有几篇难啃的数学推导paper，想看看它能不能把公式转成仿真环境。这思路有点意思，省得手动敲代码了。

刚在贴吧刷到个老哥求AI跑图配置，底下全是甩单子然后吵起来的。这玩意到底吃显存还是吃CUDA核心？我自己用SD试下来，显存不够直接崩，但有人拿1060跑得飞起，蹲个实际部署过的说说。

贴吧老哥装机贴看多了，自己也想搞个语音转文字玩。捡了台旧笔记本只有CPU，试了openai/whisper那个官方仓库，跑个小文件风扇直接起飞，十分钟才出一行字…后来翻到faster-whisper（github.com/guillaumekln/faster-whisper），说能靠int8量化切到CPU。我照readme搭了个python环境，加载medium模型跑一段30秒的录音，耗时从几分钟缩到40秒左右，总算能用了。有试过更大模型的老哥可以分享下实际体验，看能不能再压一压。

拉了个 ComfyUI 最新版，想跑 Flux.1-schnell，load 模型直接报 Can't load tokenizer for 'flux'。有人碰到过没？还是得手动下别的权重？github.com/comfyanonymous/ComfyUI

刚看到LocalAI这玩意，说是可以本地跑LLM和图像生成，不用GPU也行。有人部署过没？链接在这：https://github.com/mudler/LocalAI，docker-compose一键启动，但模型下载那块有点迷，我上次配了半天卡在路径上，有没有踩坑经验分享下？