LMCache：把 KV Cache 搬出显存，长上下文不再卡首字
跑长上下文推理时，真正吃掉显存的是 KV Cache；模…
verl：给大模型做 RL 后训练，不用自己拼推理和训练引擎
想用 PPO、GRPO 这类方法给模型做后训练，真正卡人…
AI SDK：换模型不用重写代码，流式聊天界面也一起解决
做 AI 应用最费时间的往往不是调 prompt，而是换…
gpt-oss：OpenAI 放出权重，单卡也能跑起推理
想在本地跑一个会调工具、能推理的开源模型，又不想被一堆胶…
OpenManus 实测：不用邀请码，本地跑一个通用 Agent
想试通用 AI Agent，却卡在邀请码、订阅和「只能看…
MiniMind：用几小时从零训出一个小模型，把 LLM 全流程摸透
如果你想搞清楚一个大模型到底是怎么从零长出来的，而不是止…
PDFMathTranslate：整篇论文翻译，公式排版还能保住
啃英文论文最烦的不是生词，是翻完之后公式全乱、双栏错位、…
nanochat：把大模型预训练到对话塞进一套代码，值得通读一遍
想弄明白 ChatGPT 这类模型到底是怎么被炼出来的，…
LightRAG：把知识图谱塞进 RAG，检索又快又省 Token
做 RAG 的人大多踩过同一个坑：文档一多，检索要么召回…
FastMCP：把 Python 函数变成大模型能调用的 MCP 工具
工具函数写好了，想接进 Claude、Cursor 或自…
