AIGC&ChatGPT

解惑了—— ChatGPT基于知识库提问token计算方法

2023-12-26  本文已影响0人  求知笔记

最近一直做知识库的训练,基于公司的场景一直做课程助手、课程推荐专家的训练。

慢慢了基于知识库回答的一些原理,也慢慢给自己解惑了。

首先,token的计算

众所周知,ChatGPT的token计算方法,是基于用户输入的问题+输出的结果 共同计算出来token总数量的。

如果基于知识库的提问,他用多少token呢?计算方式是怎样的呢?

不停试错后,逐渐了解计算逻辑:

综合来说,** token = 用户输入的问题 + 输出的结果 + 匹配的整段内容(可能多个) + 内置提示语**

上一篇 下一篇

猜你喜欢

热点阅读