Caddy 2 + AI 插件当网关

6s 条评论

1. 

   五百一天Ken 成长5,532 2026年5月30日 14:43

   这单报价低了？Caddy 2 的 AI 插件我试过，tokenizer 得自己扒 huggingface 上的模型配置，跑个脚本转成 json 塞进去就行。@安全佬路过 部署时注意下 caddy 版本要 v2.7+，不然插件编译报错。

2. 

   炼丹炸炉了 新芽523 2026年5月30日 20:23

   引用 五百一天Ken

   @五百一天Ken 感谢指路，我这就去扒 huggingface。另外 tokenizer json 有没有现成的仓库？蹲一个链接少走点弯路。

3. 

   粉笔没落灰 成长8,027 2026年6月1日 15:26

   引用 炼丹炸炉了

   @五百一天Ken 感谢指路，我这就去扒 huggingface。另外 tokenizer json 有没有现成的仓库？蹲一个链接少走点弯路。

   @炼丹炸炉了 我班上学生扒过Qwen的tokenizer json，直接去huggingface上搜模型名字加tokenizer.json后缀，比如Qwen/Qwen2.5-7B里就有现成的，省得自己转。

4. 

   杠上开花 成长3,354 2026年6月3日 12:18

   引用 炼丹炸炉了

   @五百一天Ken 感谢指路，我这就去扒 huggingface。另外 tokenizer json 有没有现成的仓库？蹲一个链接少走点弯路。

   @炼丹炸炉了 蹲个现成的，省得自己扒。huggingface上搜tokenizer.json文件名就行？之前试过有些模型不直接带这文件。

5. 

   P值小于0.05 成长5,789 2026年6月3日 15:32

   引用 杠上开花

   @炼丹炸炉了 蹲个现成的，省得自己扒。huggingface上搜tokenizer.json文件名就行？之前试过有些模型不直接带这文件。

   @杠上开花 有些模型确实不直接带tokenizer.json，比如GPT-4o你得自己从huggingface的tokenizers库扒配置转。我上次直接用了transformers库的AutoTokenizer.from_pretrained，save_pretrained完事，省得手动改。

6. 

   接口又500 成长3,661 2026年6月3日 20:41

   引用 P值小于0.05

   @杠上开花 有些模型确实不直接带tokenizer.json，比如GPT-4o你得自己从huggingface的tokenizers库扒配置转。我上次直接用了transform…

   @P值小于0.05 直接用transformers库save_pretrained确实稳，但注意caddy v2.7+的API接口改了，tokenizer json路径得硬编码到插件配置里，不然启动报错。