
感觉 chatgpt 的上下文老长了,好奇它是怎么做到的。难道 api 只是接口给的一个限制?
1 Tspm1eca Jul 15, 2023 是的,openai 加的限制 |
2 customer Jul 15, 2023 只是历史长,你用问答测试一下就会发现多几轮对话之后前面的内容就无法正确回答了 |
3 chris555 Jul 17, 2023 超了会自动截断的 |
4 mmdsun Jul 17, 2023 via iPhone 可能自己设计了个文本压缩算法吧 |
5 wujiang007 Jul 18, 2023 gpt3.5 已经是 16k 了,GPT4 是 8k ,超了之后还是样截断。 |