对抗性提示词

对抗性提示词允许模型生成抵抗某些类型的攻击或偏见的文本。
这种技术可用于训练更为稳健和抵抗某些类型攻击或偏见的模型。

要在ChatGPT中使用对抗性提示，

• 需要为模型提供一个提示，该提示旨在使模型难以生成符合期望输出的文本。
• 提示还应包括有关所需输出的信息，例如要生成的文本类型和任何特定要求或约束

示例:

示例1:用于文本分类的对抗性
提示任务:生成被分类为特定标签的文本
说明:生成的文本应难以分类为特定标签
提示公式:“生成难以分类为[插入标签]的文本“