DeepSpeed 不止省显存：训练推理一把抓的开源提速库
如果你和我一样，在本地调大模型时总被 OOM 劝退，De…
tinygrad：用很少的代码读懂深度学习与大模型推理
绝大多数人用深度学习框架就是调 API，想亲眼看清张量、…
Qwen-Agent：让通义千问学会调用工具的开源 Agent 框架
写 RAG 或多步推理时，最烦的就是把大模型和工具调用粘…
Perplexica：本地自托管 AI 搜索，隐私与体验兼得
想要 Perplexity 那样的智能搜索体验，却不想把…
llm.c：几百KB C代码跑GPT-2，Karpathy手把手拆解训练
想搞懂大模型训练时那些反向传播、梯度下降到底在干什么？K…
AnythingLLM 开源知识库：文档秒变可聊天的 AI 助理
每次想用 AI 查内部资料，都得把文档上传到云端，多少有…
VideoLingo AI 视频翻译配音全自动，生肉剧集轻松啃
追生肉、剪课程、做二创时，字幕和配音总是最磨人的一步：手…
llamafile：把大模型打包成单文件，双击就能跑
跑本地大模型是不是总要先装 Python、配 CUDA、…
Instructor：让大模型输出直接变成 Python 对象
还在对着 choices[0].message.cont…
ms-swift：一条命令微调全模态大模型，LoRA 和 DeepSpeed 都搞定
微调一个开源模型，光是环境适配、数据格式化、多卡并行就够…
