开源研习社

发现个叫AppFlowy的开源项目，号称开源的Notion替代品，自己搭了个试了下，数据全本地，用Docker一键部署还挺顺。链接在这：https://github.com/AppFlowy-IO/AppFlowy。有人踩过插件坑没？我装了个日历模块挂了。

最近在玩 Dify，部署贼简单，docker-compose 一把梭。拿来搞个人知识库，丢了一堆笔记进去查东西挺爽。仓库在这 github.com/langgenius/dify ，踩坑：第一次跑记得改.env里的密钥，别直接用默认的。想搭私有的可以试试，比 notion AI 省钱多了。

试了下用 Caddy 2 的 AI 插件做反向代理和权限管理，免了 Nginx + Lua 那一套。官方给了几个模型接入示例，但实测 GPT-4o 要自己配 tokenizer。有人踩过这个坑吗？链接：github.com/caddyserver/ai

Mochi 1 刚开源，genmo那帮人搞的，直接本地部署能跑1080p视频，惊了。我用的3090，24G显存勉强扛住，渲染等了俩小时。地址：github.com/genmoai/mochi踩坑：别用Windows跑，CUDA版本不对直接炸，最后换Ubuntu+Docker才稳。兄弟们试试？

试了下ollama直接拉llama3.1 8B，i7-12700跑了快5分钟才吐出第一句，这玩意是不是只能等GPU版本？有人用llama.cpp优化过没，差距大吗？

用LibreTranslate在旧笔记本上搭了个翻译服务，离线跑不用联网。中英文互翻速度还行，就是小语种语料少了点。有玩过自建NLP服务的没，聊聊怎么优化模型？https://github.com/LibreTranslate/LibreTranslate

刚在 8G 显存卡上用 Ollama 0.5 试跑 DeepSeek-R1 7B Q4，加载完直接吃掉 7.6G，生成第一句就崩到 OOM。有人试过更低量化版本的配置吗？比如 Q3_K_S？感觉 8G 卡根本跑不动官方推荐的 7B 模型，还是得换 GGUF 量化版？

花了两天把 OpenAI Whisper 的 large-v3 部署到本地 GPU 上，配合 silero-vad 做语音活动检测，延迟大概 500ms 左右。之前以为得用付费 API 才能做到实时，没想到开源版自己搭也挺稳的。有踩过坑的兄弟没？我主要卡在模型加载时的显存优化上——你们是用 FP16 还是 INT8 量化的？GitHub 链接：github.com/openai/whisperVAD 组件：github.com/snakers4/silero-vad

刚试了 automatic1111 的 webui，8G 显存跑 512x512 都能爆，服了。翻了半天 issue 说加 --medvram 能苟一苟，试了确实能跑但慢得想骂人。有老哥肉身踩过坑不？求个靠谱优化姿势。