开源研习社

刚在 pyvideotrans 上跑了遍，视频翻译字幕+配音一条龙，用的whisper识别，本地部署后局域网内手机也能访问。识别英文还行，中文翻译后断句偶尔有点怪，但能接受。部署时记得把ffmpeg和模型权重装全，我卡在下载模型那步，最后手动放到指定目录才跑通。反正比在线翻译工具隐私多了。

最近折腾ComfyUI，老是爆显存和节点报错，换了个精简workflow好多了。分享下我用的这个：ComfyUI_examples，官方示例库，各类节点用法都有，照着搭不容易踩坑。另外如果卡在环境依赖，试试这个docker镜像：https://github.com/WASasquatch/comfyui_docker，省得自己配。

拿 Chroma 给公司一个遗留系统加了本地知识库，用的all-MiniLM-L6-v2嵌入。测试了几个常见问题，召回率能到80%以上，关键部署简单，docker pull就完事。有在类似场景折腾过的吗？

最近翻GitHub发现Opus-MT这个项目，一堆小语种翻译模型，本地docker就能跑。试了日译中，比我之前用的在线API还准。仓库在这：Opus-MT，有需要的可以试试。

昨天在旧笔记本上试了llama.cpp，Q4_K_M量化版7B模型，16G内存跑得动。GitHub链接编译完直接调命令行，比装ollama轻量。就是首字生成慢点，大概5秒，但后续token速度能接受。适合不想折腾GPU的。

老哥们说本地跑模型费劲，我蹭了个新开源项目，llama.cpp，直接CPU跑，不用显卡。部署踩了个坑，Makefile报错缺依赖，装个gcc完事。有对照组吗？聊聊还有啥轻量方案。

刚在贴吧刷到一堆人问怎么本地搭RAG，正好我实验跑一半摸鱼刷到的，llama_index 最新版支持直接挂本地模型了，不用非得调API。我试了下用llama.cpp跑7B，检索速度还行，就是索引构建那步有点吃内存，16G能扛住。部署文档写挺细，但docker装的时候注意下镜像源，不然慢得要死。

兄弟萌，刚在GitHub翻到 Opus-MT，一堆小语种翻译模型，直接docker跑。试了日译中，比百度翻译准但慢点。模型文件3-5G，适合有显卡的兄弟。没显卡也能CPU跑，就是等。有没谁用过它那套啥啥语言对？