- 7 回复
- 435 浏览
Ollama+LangChain 踩到天坑
搞了个 Agent 项目,用 Ollama 跑本地模型,LangChain 调接口,结果 timeout 不断。查日志发现是 Ollama 默认并发数太低,得手动调 OLLAMA_NUM_PARALLEL。还有 LangChain 的 ChatOllama 版本对不上,0.1.x 和 0.2.x 的 api 改了,我直接裂开。
搞了个 Agent 项目,用 Ollama 跑本地模型,LangChain 调接口,结果 timeout 不断。查日志发现是 Ollama 默认并发数太低,得手动调 OLLAMA_NUM_PARALLEL。还有 LangChain 的 ChatOllama 版本对不上,0.1.x 和 0.2.x 的 api 改了,我直接裂开。
按楼层回复,支持引用与表情;使用 @用户名 或 @昵称 可提醒对方;发言计入圈子贡献字数。
本地偏好 · 配色仅保存在当前浏览器
点此注册,收藏与评论更方便
Welcome! This site is in Chinese. Tap EN in the top bar to read in English.
7s 条评论