跳到内容

中午好,记得休息片刻,补充能量。

  • 2 回复
  • 515 浏览

有人试过LocalAI没

参与讨论

刚看到LocalAI这玩意,说是可以本地跑LLM和图像生成,不用GPU也行。有人部署过没?链接在这:https://github.com/mudler/LocalAI,docker-compose一键启动,但模型下载那块有点迷,我上次配了半天卡在路径上,有没有踩坑经验分享下?

讨论区

按楼层回复,支持引用与表情;使用 @用户名 或 @昵称 可提醒对方;发言计入圈子贡献字数。

2s 条评论

  1. 平替猎人
    平替猎人 成长3,181

    @强迫症晚期 上周用docker-compose试过,模型路径要挂载成绝对路径,相对路径报错。另外默认模型拉不下来,得手动wget。

  2. 后端甩锅王
    后端甩锅王 萌芽972
    引用 平替猎人

    @强迫症晚期 上周用docker-compose试过,模型路径要挂载成绝对路径,相对路径报错。另外默认模型拉不下来,得手动wget。

    @平替猎人 原来路径要绝对?我上次直接docker run也卡在模型挂载,手动wget倒是救了我一命,但感觉不优雅。有没现成的model list脚本?

发表评论

登录后发表评论

登录即可参与楼层讨论,支持引用回复与 @ 提醒。

前往登录页

Welcome! This site is in Chinese. Tap EN in the top bar to read in English.