00001.自然语言模型训练相关基本概念
2023-11-14 本文已影响0人
笑着字太黑
Decoding ：
Greedy:选择最佳答案作为输出，每次结果相同，无创造性
Sampling:有创造性，具体参考参数设置
Sampling参数：
Temperature：创造性，从生成模型中抽样包含随机性，值越大，创造性越大，每次得到不同结果可能越大
TOP-K：例如设定为3，在可能性最高的3个答案中随机选择一个作为结果
TOP-P：例如设定为0.8，在可能性最高并且之和刚刚超过0.8的答案中随机选择一个作为结果
