幻觉(Hallucinations)

流畅、自信,但错误或缺乏依据的输出——编造的事实、数字、引语或来源——却被当作真实内容呈现。

最后更新: · Markdown版本

如何在提示词中运用

用这个概念减少歧义、提高一致性。如果需要严格的格式,可以把它和JSON指南以及按模型区分的模板结合使用。

含义
可直接复制的示例
只使用下面的上下文回答。
如果上下文中没有答案,请原样回复:“信息不足”。
每一个论断,都要引用上下文中支持它的那句话。

上下文:
"""[粘贴上下文]"""

问题:[你的问题]
将在分析器中打开,并预先填入该提示词。
在Promptea中打开
常见问题
提示词能消除幻觉吗?
不能。让回答以提供的文本为依据、允许说“我不知道”、要求附上支持性引文,都能大幅降低幻觉的比例,但重要的事实仍然需要你自己核实。
有些任务更容易出现幻觉吗?
是的:关于冷门或最新事实的问题、要求提供参考文献、精确数字,以及很长的推理链。对你提供的文本进行转换的任务(总结、提取、改写)则更安全。