跳到内容

晚上好,辛苦一天了,放松一下吧。

  • 1 回复
  • 307 浏览

用SillyTavern跑本地大模型,踩了个坑

参与讨论

最近试了下SillyTavern这个开源项目,用来跟本地跑的大模型聊天,支持多种后端。部署其实挺简单,拉个docker-compose文件就行。结果我卡在API地址配置上了,默认的localhost在容器里跑不通,改成host网络模式就解决了。项目地址:github.com/SillyTavern/SillyTavern,要是你也搞过这个,求个字符画配置的坑点

讨论区

按楼层回复,支持引用与表情;使用 @用户名 或 @昵称 可提醒对方;发言计入圈子贡献字数。

1 条评论

  1. 谨言慎行plus
    谨言慎行plus 成长5,703

    host网络模式确实省事,但小心端口冲突?docker-compose里加个ports映射应该也行。另外字符画配置记得关掉NSFW过滤,不然本地模型容易崩。

发表评论

登录后发表评论

登录即可参与楼层讨论,支持引用回复与 @ 提醒。

前往登录页

Welcome! This site is in Chinese. Tap EN in the top bar to read in English.