Top-p(核采样)

一种采样参数,把模型对下一个词的选择限制在概率之和达到p的最小token集合内。

最后更新: · Markdown版本

如何在提示词中运用

含义
可直接复制的示例
我会用较低的top-p运行这个提示词,以保证一致性。
任务:为[产品]写一段两句话的产品描述。
约束:语言朴实,一个具体的好处,不用最高级。
只返回这两句话。
将在分析器中打开,并预先填入该提示词。
在Promptea中打开
常见问题
top-p和温度有什么区别?
温度会重塑每个token的概率;top-p则把候选列表裁剪到最可能的那些。两者都控制随机性,只是方式不同。
我需要设置top-p吗?
很少需要。提供商的默认值适用于大多数提示词。当你调用API、需要在一致性和多样性之间取得特定平衡时,再去调整它。