Langflow：可视化拖拽搭建 RAG 与 Agent 工作流的低代码神器
如果你厌倦了手写长串 Python 代码来串联 LLM …
OpenWebUI：LLM 交互前端，让本地模型拥有 ChatGPT 级体验
如果你厌倦了在终端里敲命令行调用本地大模型，或者觉得 O…
Ollama：一行命令本地跑大模型，开发者私藏推理神器
厌倦了配置复杂的推理环境？Ollama 让你像用 Doc…
ChatGPT-on-Cloudflare：用 Workers 白嫖自建 AI 网关
如果你既想低成本调用 OpenAI / Anthropi…
LocalAI：本地运行大模型与多模态的私有化推理引擎
LocalAI 是一个开源的自托管 AI 推理服务器，让…
VLLM：高性能 LLM 推理引擎，轻松部署大模型服务
如果你正在为部署大语言模型的推理延迟和吞吐量发愁，vLL…
用本地模型写代码？Continue 让 VS Code/JetBrains 秒变 AI 搭档
如果你既想享受 AI 编程助手的便利，又不想把代码片段上…
离线运行 Llama 3 的 C++ 推理引擎，llama.cpp 之外的新选择
如果你正在寻找一个比 llama.cpp 更轻量、更易嵌…
本地运行多模态大模型，llama.cpp 生态再添新成员
如果你还在为在消费级硬件上运行多模态大模型而发愁，这个仓…
用自然语言操作本地文件？这个开源Agent框架做到了
如果你曾幻想过对电脑说“帮我整理桌面文件，把PDF按项目…