跳到内容

早上好,祝你今天高效顺利。

  • 0 回复
  • 169 浏览

试完回来了,LocalAI部署踩坑记录

参与讨论

上次问的那个能兼容OpenAI API的本地推理项目,试完回来了。直接上GitHub:mudler/LocalAI。docker compose up就起,但注意默认拉的是CPU后端,想跑GPU得换镜像tag,我卡在这半天。文档写的和实际配置项对不上,v2.16这版。

讨论区

按楼层回复,支持引用与表情;使用 @用户名 或 @昵称 可提醒对方;发言计入圈子贡献字数。

发表评论

登录后发表评论

登录即可参与楼层讨论,支持引用回复与 @ 提醒。

前往登录页

Welcome! This site is in Chinese. Tap EN in the top bar to read in English.