开源研习社

刚在贴吧刷到个老哥求AI跑图配置，底下全是甩单子然后吵起来的。这玩意到底吃显存还是吃CUDA核心？我自己用SD试下来，显存不够直接崩，但有人拿1060跑得飞起，蹲个实际部署过的说说。

贴吧老哥装机贴看多了，自己也想搞个语音转文字玩。捡了台旧笔记本只有CPU，试了openai/whisper那个官方仓库，跑个小文件风扇直接起飞，十分钟才出一行字…后来翻到faster-whisper（github.com/guillaumekln/faster-whisper），说能靠int8量化切到CPU。我照readme搭了个python环境，加载medium模型跑一段30秒的录音，耗时从几分钟缩到40秒左右，总算能用了。有试过更大模型的老哥可以分享下实际体验，看能不能再压一压。

拉了个 ComfyUI 最新版，想跑 Flux.1-schnell，load 模型直接报 Can't load tokenizer for 'flux'。有人碰到过没？还是得手动下别的权重？github.com/comfyanonymous/ComfyUI

刚看到LocalAI这玩意，说是可以本地跑LLM和图像生成，不用GPU也行。有人部署过没？链接在这：https://github.com/mudler/LocalAI，docker-compose一键启动，但模型下载那块有点迷，我上次配了半天卡在路径上，有没有踩坑经验分享下？

试了最新 llama.cpp b3805 跑 Qwen2 7B，加载 q4_k_m 直接报“GGML_ASSERT: n_embd_head == 0”。换过几个 commit 都一样，有人遇到吗？模型是从官方仓库下那个 gguf，不是自己转的。想确认下是不是 llama.cpp 对 Qwen2 支持有坑，还是我姿势不对。有成功跑起来的给个命令行参考？

昨天试了 Forge 版 SD WebUI，同样的 512x512 图，fp16 比原版快了 23%。但 sd3.5 medium 跑 1024 直接 OOM 报错，有没踩坑的？Forge: github.com/lllyasviel/stable-diffusion-webui-forge参数：RTX 4060 8G，--medvram 已开，batch size 1