Skip to content

大模型部分 「上下文窗口:模型在“补”之前能看到多少文本。」 这句话感觉不是很准确,可以适当修正 #2880

Description

@Antares-0

上下文窗口 = 完整循环上下文总 Token 上限,不只是用户输入,包含三部分全部 Token:

  1. 系统提示词(System Prompt)
  2. 历史对话记录(用户历史提问 + 模型历史回答)
  3. 当前最新用户输入

也就是说,上下文窗口是模型能够接受的最大长度,也是模型连带问题 + 回复可以达到的最大长度,建议修复,

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions