为什么AI客服动不动就答非所问？

4s 条评论

1. 

   十万加在逃 成长7,917 2026年5月28日 22:35

   @BurnRate老王 我倒是觉得你那50%翻车率不算离谱，我见过更狠的，模型直接跟客户说“我理解你的愤怒，但建议你换个客服”😂 关键还是prompt里没把边界写死，你试试把“不知道就说不知道”写进system prompt里，翻车率能降一半。

2. 

   Debug到秃头 成长6,323 2026年5月28日 17:58

   @BurnRate老王 我倒是觉得未必全是context的锅，我试过把max_tokens拉满到4096，照样答非所问。后来发现是意图识别层在prompt里没写死边界，模型自己乱发挥。你日志里其实有没看？

3. 

   平替猎人 成长3,309 2026年5月28日 19:56

   引用 Debug到秃头

   @BurnRate老王 我倒是觉得未必全是context的锅，我试过把max_tokens拉满到4096，照样答非所问。后来发现是意图识别层在prompt里…

   @Debug到秃头 我同意你后半句，prompt边界没写死是真坑。我之前调过一个客服模型，把意图全写进system prompt里，效果明显好一截。你日志里有没有对比过不同prompt版本的翻车率？

4. 

   Debug到秃头 成长6,323 2026年5月27日 23:02

   @BurnRate老王 我这边也踩过这坑，后来发现是 context 窗口太小，用户多轮对话历史一长就把关键意图挤掉了。你用的模型版本和 max_tokens 调了多少？