candle：用 Rust 写推理引擎，本地跑 LLM 和扩散模型
如果你试过在 Python 环境里折腾本地模型推理，大概…
TGI 推理服务：本地大模型从 Demo 到上线还差这层
在本地把 Llama/Qwen 跑通不难，难的是把它变成…
Gradio：把模型快速包装成可分享的Web演示
很多人在本地跑通模型后，最头疼的是怎么让同事或朋友也能上…
如果你试过在 Python 环境里折腾本地模型推理，大概…
在本地把 Llama/Qwen 跑通不难，难的是把它变成…
很多人在本地跑通模型后，最头疼的是怎么让同事或朋友也能上…
本地偏好 · 配色仅保存在当前浏览器
点此注册，收藏与评论更方便
Welcome! This site is in Chinese. Tap EN in the top bar to read in English.
