ChatGPT API 相比 ChatGPT 的一些优点

推荐阅读：《ChatGPT API 相比 ChatGPT 的一些优点》by Reorx

Thread🧵: ChatGPT API 相比 ChatGPT 的一些优点。

1. 显式定义角色。在新的 ChatGPT API 中，消息增加了 role 的属性，表示其所属的角色，其中 system 用于定义接口的行为，比如「你是一个写作助手」， user 和 assistant 则用于区分用户输入和模型输出。这使得创造特定需求的助手变得更加清晰明确。 

2. 选择性地去掉会话中的信息。ChatGPT 最大可以存储 4096 个 token（大约16384个英文字母）的上下文，当一个会话的内容超出这个数量，最前面的信息就会被遗忘。而 ChatGPT API 每次都要将完整的上下文传递过去，这意味着我们可以选择保留重要的信息，选择性地去掉一些无用的以避免超出限制。

3. 返回多个结果供选择。通过传递 n 参数，可以一次性返回多个不同的结果，适合文字润色、短内容生成等场景，避免多次重复问询。 

4. 使用 logit_bias 参数调整特定词汇（token）在结果中出现的可能性，实现减少重复甚至屏蔽特定词汇的功能。 

5. 使用 temperature/top_p 参数调整结果的相关性和准确性。当我们需要发散思维、拓宽脑洞时，可适当调低结果的相关性；而当提供的上下文足够多，需要做精确的分析时，则可调高相关性，减少 ChatGPT 编造内容的可能