Kokoro：82M 的 TTS 小模型，CPU 上也能跑出自然语音
想在本地做语音合成，第一反应往往是找显卡、下大权重、等推…
exo：把闲置的手机和旧电脑，拼成一个能跑大模型的集群
手里有旧笔记本、Mac mini，甚至一台吃灰的安卓机，…
BitNet：把大模型压到 1-bit，CPU 上也能跑推理
想在本地跑大模型，先被显卡和内存劝退的人不少。micro…
sherpa-onnx：轻量离线语音推理库，一句话搞定ASR与TTS
做语音应用的人都知道，云端接口虽然方便，但延时、隐私和费…
llamafile：把大模型打包成单文件，双击就能跑
跑本地大模型是不是总要先装 Python、配 CUDA、…
MLX：苹果官方出品，让你的Mac也能高效跑大模型推理和微调
MLX是苹果开源的机器学习框架，专为Apple Sili…
Jan 桌面 AI 客户端：本地运行大模型，隐私优先的推理助手
如果你厌倦了每次对话都要把数据上传到云端，又想用上最新的…
Ollama：一行命令本地跑大模型，开发者私藏推理神器
厌倦了配置复杂的推理环境？Ollama 让你像用 Doc…
ChatGPT-on-Cloudflare：用 Workers 白嫖自建 AI 网关
如果你既想低成本调用 OpenAI / Anthropi…
LocalAI：本地运行大模型与多模态的私有化推理引擎
LocalAI 是一个开源的自托管 AI 推理服务器，让…
