- 0 回复
- 169 浏览
试完回来了,LocalAI部署踩坑记录
上次问的那个能兼容OpenAI API的本地推理项目,试完回来了。直接上GitHub:mudler/LocalAI。docker compose up就起,但注意默认拉的是CPU后端,想跑GPU得换镜像tag,我卡在这半天。文档写的和实际配置项对不上,v2.16这版。
上次问的那个能兼容OpenAI API的本地推理项目,试完回来了。直接上GitHub:mudler/LocalAI。docker compose up就起,但注意默认拉的是CPU后端,想跑GPU得换镜像tag,我卡在这半天。文档写的和实际配置项对不上,v2.16这版。
按楼层回复,支持引用与表情;使用 @用户名 或 @昵称 可提醒对方;发言计入圈子贡献字数。
本地偏好 · 配色仅保存在当前浏览器
点此注册,收藏与评论更方便
Welcome! This site is in Chinese. Tap EN in the top bar to read in English.