中科热备|token8341:上下文窗口没满,模型却答非所问?我遇过三次:上下文窗口没满,模型却开始答非所问,这事我遇到过三次。第一次是给一家做工程图纸审阅的团队看日志,他们的调用链里塞了 CAD 元数据、OCR 结果、历史对话,跑到第 40 轮左右,模型开始把三份不同图纸的标高混在一起。 先给一个能直接摘走的定义 上下文窗口耗尽,指的是单次请求送进
中科热备|token8341:上下文窗口没满,模型却答非所问?我遇过三次:上下文窗口没满,模型却开始答非所问,这事我遇到过三次。第一次是给一家做工程图纸审阅的团队看日志,他们的调用链里塞了 CAD 元数据、OCR 结果、历史对话,跑到第 40 轮左右,模型开始把三份不同图纸的标高混在一起。 先给一个能
阅读:0
点赞:0