LitGPT：用PyTorch原生方式训练部署LLM，告别框架黑盒

如果你是那种觉得Hugging Face Trainer太黑箱、想自己掌控每一行训练代码的开发者，LitGPT可能是你一直想要的东西。它不是又一个高层封装，而是基于PyTorch Lightning构建的轻量级LLM训练与推理工具，直接暴露模型架构和优化步骤，同时省去重复的模板代码。无论是从头预训练、LoRA微调，还是部署，都用一套熟悉的PyTorch风格搞定，适合喜欢「看得见」训练过程的科研人员和工程师。

核心看点

– 透明可控的训练流程：使用PyTorch Lightning的LightningModule和LightningDataModule，hparams和checkpoints都按标准结构组织，没有隐式全局变量。支持FSDP、混合精度、梯度检查点等主流优化，配置通过YAML或CLI指定，极易复现实验。
– 原生支持多种模型架构：包括Llama 2、Mistral、Mixtral、Phi-2、Gemma、Qwen等，权重可直接从Hugging Face Hub下载，无需转换。微调支持LoRA/QLoRA、Adapter，且提供最小代码量的脚本，例如finetune/lora.py只有不到200行，适合学习和定制。
– 推理与导出一体化：能在单卡或CPU上跑生成，也支持批量推理；导出为torch.compile、ONNX或Triton推理服务所需格式，部署链路清晰。作者还提供量化方案，方便在边缘设备上运行。

适合谁

– 研究者：需要修改模型内部结构、试验新训练策略，LitGPT的模块化设计让你不必重写整套流程。工程师：需要一个可读性强、易于集成到现有CI/CD管线的LLM开发工具，且不想引入太多黑盒依赖。依赖：需要PyTorch 2.1+，CUDA或MPS加速；微调一张A100 80GB可跑7B模型，如果你的显存紧张，参考其QLoRA文档可缩小到单卡24GB。无API Key需求，完全本地运行。

在GitHub仓库里有一份完整的tutorials/目录，从数据准备到部署的每一步都有Jupyter Notebook演示。如果你希望手里的模型能从训练到上线都用干净、可审查的代码来驱动，可以花10分钟扫一眼 Lightning-AI/litgpt 的README和example脚本，也许这正是你需要的下一把螺丝刀。