客户问到具体规则时,机器人给出了不准确的表述,虽然概率不高,但一旦发生影响很大。

3类兜底手段
1条拦截规则
1次月度抽检

1. 限定回答范围

只允许基于可信知识作答,知识里没有的内容明确说无法确认,而不是自行推测。

2. 关键场景强制人工

涉及费用、时效、责任的问题不交给模型直接回答。

结语

把不确定的地方明确说出来,比给出一个好听但错误的答案更负责。