llamafile：把大模型打包成单文件，双击就能跑
跑本地大模型是不是总要先装 Python、配 CUDA、…
Instructor：让大模型输出直接变成 Python 对象
还在对着 choices[0].message.cont…
ms-swift：一条命令微调全模态大模型，LoRA 和 DeepSpeed 都搞定
微调一个开源模型，光是环境适配、数据格式化、多卡并行就够…
Transformers.js：不用服务器，浏览器里直接跑大模型推理
如果你主要写前端，又想让页面里直接跑模型，这个库值得点开…
OpenHands 开源 AI 程序员：Agent 能自己改代码
你是不是也烦透了“AI 只会聊天，但不会干活”？Open…
MarkItDown：把 PDF/Office 转成 Markdown 喂给大模型
做 RAG 或拿本地文档微调时，最大的痛点往往是 PDF…
Letta：给 Agent 装上能自我更新的长期记忆
如果手头的 Agent 总在多轮对话后“失忆”，Lett…
PEFT：一张显卡也能微调大模型的 LoRA 利器
想微调大模型却总被显存劝退？PEFT 是 Hugging…
DSPy 让大模型提示词工程变可编程，告别手写 Prompt 碎片
还在为几十条 Prompt 维护头疼？试试斯坦福开源的 …
DB-GPT：把大模型接进数据库，自然语言秒变 SQL
如果你每天要在数据库和报表工具之间来回切换，写 SQL …
