Whisper.cpp：纯C++本地语音识别，轻量部署与离线推理利器
厌倦了云端语音识别的高延迟和隐私问题？Whisper.c…
Tabby 自部署的 AI 代码助手，终结 Copilot 隐私焦虑
如果你正在用 GitHub Copilot 却担心代码被…
Text Generation WebUI: 本地跑LLM的最强开源面板
厌倦了给大模型平台充API额度？想私有化部署却卡在命令行…
MLC LLM：大模型边缘推理新选择，手机浏览器秒跑开源LLM
还在为本地跑大模型必须配高端GPU发愁？MLC LLM …
Vocalize：用 GPU 加速本地语音合成，支持多语言与情感控制
如果你需要在本地快速生成自然、带情感的语音，又不想依赖云…
Outlines：让 LLM 输出严格遵循 JSON 模式的可靠生成框架
你是否受够了 LLM 胡编乱造 JSON 格式？Outl…
Qwen2.5：阿里通义千问新一代开源大模型，多尺寸与长上下文
如果你正在寻找一个既能跑在消费级显卡上、又能处理超长上下…
DeepSeek-Coder-V2：开源最强代码大模型，推理与生成双提升
如果你正在寻找一款在代码生成、推理和修复上能媲美甚至超越…
用思维链让本地小模型变聪明——COT 推理增强库 Thought 开源
当本地小模型面对复杂推理任务频频翻车时，Thought …
OpenWebUI：LLM 交互前端，让本地模型拥有 ChatGPT 级体验
如果你厌倦了在终端里敲命令行调用本地大模型，或者觉得 O…
