跳到内容

夜深了,注意休息,愿你今夜好梦。

GitHub项目

共 149 篇文章

GitHub项目

AnythingLLM 开源知识库:文档秒变可聊天的 AI 助理

每次想用 AI 查内部资料,都得把文档上传到云端,多少有点不放心。AnythingLLM 用 RAG 把这些文件变成可对话的私有知识库,本地部署,模型随便选,适合既想要效率又在意数据控制权的开发者和团队。核心看点- 模型随意接:OpenAI、Gemini、Claude 还是本地 Ollama,一个界面统一管,不用在多个后台来回切。 - 自带向量检索:不用单独搭向量数据库,内置的嵌入和检索足够对付中小型知识库,省掉一堆基础设施。 - 部署门槛低:桌面版一键安装,服务器版一条 Docker 命令就能跑起来,MIT 许可,二次开发也方便。▲ github.com(阿里云通义万相 生成配图,非网页截图)适合谁想给团队搭一个私有 AI 问答入口的工程师,或者不想写前端、急着把文档工具化的产品经理。日常使用不需要 GPU,API Key 看你选的模型决定,本地模型则完全离线。上手速度比想象中快:拖入文档、连上模型、开始提问,十分钟内能从零跑到第一条回答。如果想深入了解工作和插件的设计思路,直接翻 AnythingLLM 仓库 的 README,权限、多用户和配置说明都写得很清楚。

GitHub项目

VideoLingo AI 视频翻译配音全自动,生肉剧集轻松啃

追生肉、剪课程、做二创时,字幕和配音总是最磨人的一步:手动切时间轴,机翻腔又没温度。VideoLingo 把语音识别、翻译、打轴、配音串成一条自动化流水线,适合外语学习者、视频 UP 主和不想折腾复杂命令行的普通玩家。核心看点- 全流程一体:从视频提取语音到生成字幕、翻译、配音,一条命令跑完,不用在多个工具间反复横跳。 - 翻译有「人味」:不是简单逐句机翻,而是结合上下文润色,出来的字幕读着顺,配音听感也更自然。 - 部署伸缩自由:本地有简易操作界面,API Key 和本地模型都支持,从尝鲜到批量处理都能覆盖。▲ github.com(阿里云通义万相 生成配图,非网页截图)适合谁外语学习者、剪辑师、追剧党,以及想做海外面签视频的中长尾创作者。需要准备对应模型的 API Key(如 OpenAI 或 Anthropic),也可改用本地推理;具体依赖和许可证以仓库 README 为准。想看看实际效果和配置步骤,直接去 VideoLingo 的 README 对照着跑,比自己猜快得多。

GitHub项目

llamafile:把大模型打包成单文件,双击就能跑

跑本地大模型是不是总要先装 Python、配 CUDA、再拉一堆依赖?llamafile 把模型权重和推理引擎全部塞进一个可执行文件,双击或一条命令就能启动,适合想快速体验本地模型的开发者,也适合要把模型分发给非技术用户的场景。核心看点- 单文件分发:一个文件同时包含模型和运行时,Linux、macOS、Windows 都能直接执行,省去环境配置的折腾。 - 格式兼容广:支持 GGUF 以及 Llama、Phi、Mistral 等主流架构,命令行里 -m model.llamafile 即可加载,模型文件后缀统一为 .llamafile。 - 自带 Web 聊天界面:启动后自动打开浏览器可视化对话页,无需额外搭前端,同时还提供 OpenAI 兼容 API,方便接入现有工具。▲ github.com(阿里云通义万相 生成配图,非网页截图)适合谁面向想逃开环境配置的本地推理玩家,以及希望把模型作为独立程序交付给同事或客户的人。CPU 也能跑小尺寸量化模型,不强制要求 GPU;Apache-2.0 许可,个人使用和二次修改都比较自由,具体以仓库 LICENSE 为准。想看看有哪些现成模型可以直接下载体验,或者了解怎么把自己的 GGUF 模型打包成单文件,建议直接逛 README 和 Releases 里的示例资源:Mozilla-Ocho/llamafile

GitHub项目

Instructor:让大模型输出直接变成 Python 对象

还在对着 choices[0].message.content 手写 JSON 解析,一边担心字段缺失一边写重试?Instructor 就是针对这个场景的库,适合天天和大模型 API 打交道的 Python 开发者。它把「结构化输出」变成声明式配置,模型返回什么、怎么校验,用 Pydantic 一页纸说清楚。核心看点- response_model 一步到位:把 response_model=User 追加到 chat completion 参数里,拿回来的直接是 Pydantic 实例,而不是乱糟糟的字符串。 - 多后端都接得住:OpenAI、Anthropic、Gemini、Mistral,连 llama-cpp-python 本地模型也可以,切换成本比想象中低。 - 自动重试纠偏:模型输出不符合 schema 时,Instructor 会把校验错误传回模型并自动重试,省掉大量后处理代码。▲ github.com(阿里云通义万相 生成配图,非网页截图)适合谁给 Agent 做函数参数抽取、做信息抽取落库的 AI 应用开发者,或者想少写 prompt 解析逻辑的研究者。需要 Python 3.9+,用云端模型要自己配 API Key;玩本地模型则再加一个 llama-cpp 依赖。许可证是 MIT,源码可直接读。真想提升 Agent 稳定性,与其堆提示词,不如把输出钉在类型上。更多流式与多轮补全的玩法,去 README 里的 examples 挖一挖:instructor 仓库主页。

GitHub项目

ms-swift:一条命令微调全模态大模型,LoRA 和 DeepSpeed 都搞定

微调一个开源模型,光是环境适配、数据格式化、多卡并行就够劝退一半人。ms-swift 把这一整套流程收敛为命令行工具,适合想快速验证直觉的算法工程师和研究者。核心看点- 全模态覆盖:除了常规 LLM,也支持视觉、语音等多模态模型的微调、推理与导出,省掉四处找轮子的时间。 - 训练配置开箱即用:内置 LoRA、QLoRA、全参微调以及 DeepSpeed 策略,能直接套用现成脚本,日志清晰,调试相对省心。 - 生态丰富:兼容多种模型格式与数据集来源,自动下载模型权重,社区活跃,踩坑记录容易搜到。▲ github.com(阿里云通义万相 生成配图,非网页截图)适合谁有基础 GPU 环境、想做模型微调或风格定制,但不想从零搭建训练链路的人。普通开发者可以用小模型先跑通 demo;研究者也能方便复现对比实验。不需要 API Key。项目采用 Apache-2.0 许可证,模型权重使用时以各模型本身许可为准。如果你正在比较不同微调框架,建议直接打开ms-swift 的 README 查看支持矩阵与快速上手命令,文档里还附了常见任务示例。

GitHub项目

ChatDev:让AI智能体协作开发,一句话生成完整软件

想用自然语言描述一个想法,然后看到AI智能体自己拆解需求、写代码、修Bug?ChatDev 就是干这个的。它把软件开发流程变成一场多智能体协作——CEO、程序员、设计师各司其职,连续对话后直接产出项目代码,特别适合想折腾 AI 编程、又不想手动拼 Prompt 的开发者。核心看点- 多智能体协作机制:每个角色拥有独立的上下文和任务边界,像真实团队一样分工,需求从拆解到实现一气呵成,比单次 LLM 调用可控得多。 - 端到端生成:从输入一句需求开始,自动生成代码文件、依赖说明甚至运行指引,你拿到的是一个可以直接打开的项目骨架。 - 易扩展与可定制:支持自定义角色、数据存储和后端模型,既可以用云 API,也可以接本地推理服务,改动不算复杂。▲ github.com(阿里云通义万相 生成配图,非网页截图)上手提示项目以 Apache-2.0 协议开源,仓库里有清晰的快速上手文档。你只需要准备 Python 环境和可用的模型 API Key,不一定需要独立 GPU。建议先把官方示例跑通,再动手改角色设定。生成的代码虽然像模像样,但上生产前依然需要人工检查,把它当成一个高效的结对程序员更合适。喜欢的话,去 ChatDev 仓库 翻翻 README 和示例目录,里面还有不少玩法细节和社区讨论,值得进一步探索。

GitHub项目

Open-Sora 开源视频生成:本地复现 Sora 级效果

Sora 刷屏之后,很多团队都在拆解怎么复现,Open-Sora 是最早把完整流程摊开来的开源实现之一。它适合想上手视频生成训练/推理的开发者,也值得关注扩散模型架构的爱好者围观。核心看点- 完整训练管线:从视频处理、图像编码到扩散 Transformer 训练都有配套脚本,能看清生成背后的每一环,而不是只调黑盒 API。 - 推理与演示开箱即用:仓库提供 Gradio 示例与预训练权重入口,先跑通生成再谈二次开发,节奏很友好。 - 版本迭代快、社区活跃:代码侧采用 Apache-2.0 许可,结构清晰,适合在此基础上改模型或加数据集。▲ github.com(阿里云通义万相 生成配图,非网页截图)适合谁比较适合想本地调试视频生成模型的研究者,也适合动手能力强的 AI 爱好者。依赖主要是 PyTorch 环境,具体显存和版本要求以 README 为准;注意权重与代码许可不同,商用前要核对。如果想看到实际生成的视频片段,或者想了解训练配置,直接打开 README 里的快速开始和示例页就行;调参经验可以在 Discussions 里翻一翻。Open-Sora 仓库直达

GitHub项目

Langfuse:看穿每一次 LLM 调用,开源可观测性补上调试短板

开发大模型应用最难受的,不是模型不聪明,而是它为什么返回这么个结果。Langfuse 就是解决这个问题的:把你应用的每次 LLM 调用、Prompt、Token 消耗、追踪链路全部记录成可检索的 trace,方便在网页端直接回放排查。做 RAG、Agent、多轮对话的开发者应该都能用上。核心看点- 全链路可观测:从用户侧请求到模型返回,中间经过的检索、工具调用、重试、降级都能串成一条 trace,排查透明了很多。 - 多语言 SDK 接入简单:官方提供 Python/JS/TS 包,能一行代码挂到 LangChain、LlamaIndex、OpenAI SDK 等生态上,不用侵入业务逻辑。 - 自托管 + 开放协议:仓库采用 MIT 许可,支持 Docker 一键部署,数据留在自己的服务器,在意隐私的团队也能安心用。▲ github.com(阿里云通义万相 生成配图,非网页截图)上手提示想快速感受,先 docker compose up 起一个本地实例,然后在应用里引入 SDK,设置 Langfuse 的 host 和 project key。跑几句测试就能在 dashboard 看到耗时分段和完整输入输出。单机加 Docker 就够,不需要 GPU。建议再翻一遍仓库 README 里的接入示例和 Telemetry 说明:Langfuse 仓库首页。

GitHub项目

PaddleOCR:一行命令搞定中文场景识别,PDF表格文字直接抽

做文档处理的人都知道,把 PDF、截图里的文字和表格变成结构化数据有多费劲。PaddleOCR 是我见过最省心的开源 OCR 项目,装好后一行命令行就能跑,中文识别效果在开源方案里属于第一梯队,特别适合内容创作者、开发者和需要批量处理文档的办公党。核心看点- 开箱即用:提供预训练好的 PP-OCR 系列模型,覆盖中英文、表格结构、版面分析和方向分类,不用自己训练就能处理大多数真实场景。 - 识别 + 结构化一体:不只输出文字框,还能把表格还原成 Excel 格式,对长文档和复杂版面也有专门的解析管线,做 RAG 前处理很顺手。 - 部署灵活:支持 CPU/GPU 推理,有 Python API 和命令行工具,也能导出服务化部署,从脚本调用到线上接口都能接。项目采用 Apache-2.0 许可证,模型权重细节以仓库 LICENSE 为准。▲ github.com(阿里云通义万相 生成配图,非网页截图)上手提示建议在 Python 环境里直接 pip install paddleocr 和 paddlepaddle,然后传入图片路径就能得到识别结果。不需要 GPU,普通 CPU 跑小图也够快,但批量处理长文档时最好有独立显卡。首次使用会自动下载预训练模型,记得保持网络畅通。想看看新版模型效果、完整模型列表或者是训练自有数据的教程,直接去仓库 README 和文档逛一圈,比你自己慢慢试高效得多:PaddlePaddle/PaddleOCR

GitHub项目

Transformers.js:不用服务器,浏览器里直接跑大模型推理

如果你主要写前端,又想让页面里直接跑模型,这个库值得点开。transformers.js 把 Hugging Face 生态搬到浏览器和 Node.js,不用维护后端服务也能做文本生成、嵌入、分类、语音识别甚至图像分割。核心看点- ONNX Runtime 后端,模型经 Optimum 转换后能离线加载,支持 WebGPU 加速,特定模型在浏览器里能跑出可用的速度。 - API 对齐 Python 版 transformers,熟悉 transformers 的人可以很快迁移;也提供原生 JavaScript 的 Pipeline 接口。 - 覆盖面广,文本、视觉、音频、多模态任务都有示例,社区持续补充新模型。▲ github.com(阿里云通义万相 生成配图,非网页截图)适合谁前端开发者、独立开发者,以及想给网页加 AI 能力但不想维护 GPU 服务器的团队。依赖 npm 包,模型权重由 Hugging Face Hub 分发,需注意各模型自身的许可证。推理时浏览器需要较新版本以启用 WebGPU,纯 CPU 也能跑,但速度依模型而定。可以先去 README 看支持模型列表,或到官方示例站试试实时效果,再按任务类型找对应 Pipeline。transformers.js 仓库主页 的 Releases 也常有新模型接入说明,值得关注。

Welcome! This site is in Chinese. Tap EN in the top bar to read in English.