Stop Sequence：控制模型停止生成的关键机制
Stop Sequence 是预设字符序列，用于让模型在生成过程中停止输出。它通过停止信号控制响应长度和结构，适合提示工程、结构化输出和智能体流程边界控制。
什么是 Stop Sequence？
Stop Sequence 通常译为停止序列，也有人称为结束序列，指一段预定义文本、字符串或字符序列。它的作用是在模型生成过程中提供一个停止信号：当输出触发这个预设边界时，模型停止继续生成文本。
在一些模型 API 中，这类配置可能以 stop_sequences 等参数名出现。不同平台的参数名称和实现细节可能不同，但通用思路相近：用明确的字符边界控制模型“生成到哪里为止”。
可以把停止序列理解为给模型输出设置的“终止标记”。提示词告诉模型要写什么，停止序列则帮助系统判断什么时候不再继续写。
停止序列如何影响模型生成过程？
模型生成文本时，会逐步产生后续内容。停止序列会作为预设的停止信号参与这一过程：当生成内容满足停止条件时，系统停止继续输出。
这并不是让模型在语义上“意识到该总结了”，而是通过预先定义的字符序列来约束输出边界。例如，可以用某个专用分隔符、标签或结束标记作为停止序列，让模型在触发该边界后不再继续扩展内容。
一个简单例子
假设你希望模型只输出某一段回答，不要继续生成下一轮对话或额外解释，可以在格式中约定一个不容易出现在正文里的边界标记。当生成过程触发这个标记时，停止序列就可以作为截断条件，避免模型继续输出不需要的内容。
要点： 停止序列关注的是“在哪里停”，不是“内容是否足够好”。内容质量、任务范围和格式要求仍然需要通过清晰提示词来定义。
停止序列能解决哪些输出控制问题？
停止序列常用于控制模型响应长度和结构，尤其适合处理输出边界清晰的任务。它可以减少模型在完成目标片段后继续生成无关内容的概率，也能让固定格式的响应更容易被后续程序处理。
| 用户需求 | 解决方式 | 效果 |
|---|---|---|
| 不希望模型在回答结束后继续补充无关内容 | 设置一个明确的结束标记作为停止序列 | 到达边界后停止输出，减少冗余延伸 |
| 只需要模型生成某个片段 | 在目标片段之后设置固定分隔符或标签 | 帮助输出停留在指定范围内 |
| 希望响应保持固定结构 | 结合提示词中的格式约定使用停止序列 | 在段落、标签或分隔符边界处停止 |
| 需要控制响应长度 | 用停止序列限定模型继续展开的边界 | 在合适位置截断输出，避免回答过长 |
停止序列并不等同于通用的长度控制参数。它更适合在你已经知道某个边界标记、标签或分隔符时使用；如果任务本身没有清晰边界，仅依赖停止序列通常不够。
停止序列与普通提示约束有什么区别？
普通提示约束主要依赖模型遵循自然语言指令，例如“只回答三句话”“不要输出解释”。停止序列则更像一个结构化边界：只要生成过程触发预设字符序列，就停止继续输出。
| 对比项 | 普通提示约束 | Stop Sequence |
|---|---|---|
| 控制方式 | 用自然语言描述任务和限制 | 用预定义字符序列设置停止边界 |
| 触发条件 | 依赖模型理解并遵循指令 | 生成过程触发预设停止信号 |
| 适合场景 | 定义内容范围、语气、格式和质量要求 | 控制格式边界、段落边界、固定分隔符 |
| 局限点 | 可能出现不完全遵循指令的情况 | 只解决“何时停”，不能保证内容质量 |
因此，停止序列不应替代提示词设计。更合理的做法是：用提示词说明任务、格式和内容范围，再用停止序列控制输出边界。
如何选择合适的停止序列？
停止序列可以是任意字符序列，但并不意味着可以随意选择。一个好的停止序列应该尽量不出现在正常回答正文中，否则模型可能过早停止，导致输出不完整。
选择原则
- 优先选择不太可能自然出现在正文中的字符序列。
- 避免使用常见标点、普通词语或高频短语作为停止序列。
- 如果输出有固定格式，可以选择与格式边界一致的标签、分隔线或特殊标记。
- 确保停止序列不会与正文内容、示例内容或用户输入冲突。
- 在正式使用前，用典型输入测试停止效果，观察是否存在提前截断或未能停止的问题。
检查清单
| 检查项 | 需要确认的问题 |
|---|---|
| 唯一性 | 这个序列是否很少自然出现在模型正文中？ |
| 误触发风险 | 用户输入、示例或常见回答里是否可能包含它？ |
| 格式一致性 | 它是否与目标输出格式中的边界位置一致？ |
| 可调试性 | 如果模型提前停止，是否容易定位是哪个序列触发？ |
| 可维护性 | 后续修改提示词或格式时，是否仍然适用？ |
要点： 停止序列越常见，越容易导致提前停止；停止序列越贴近真实格式边界，越容易稳定控制输出。
停止序列的典型应用场景
停止序列适合用于边界明确、输出结构相对固定的任务。在提示工程、结构化输出和智能体流程中，它都可以作为控制模型生成边界的一种机制。
| 场景 | 用户需求 | 解决方式 | 效果 |
|---|---|---|---|
| 提示工程 | 只输出目标答案，不要附加解释 | 在目标片段后设置停止序列 | 减少多余说明或后续延伸 |
| 结构化输出 | 保持标签、段落或分隔符边界 | 将固定边界符作为停止信号 | 帮助输出停在指定结构位置 |
| 多轮流程 | 避免模型继续生成下一轮内容 | 用轮次标记或边界标记控制停止 | 降低跨轮次生成的概率 |
| 智能体流程 | 区分任务轮次、动作输出或后续节点 | 将停止序列作为边界控制机制之一 | 让流程更容易判断当前输出结束位置 |
在智能体类应用中，停止序列通常不是单独发挥作用，而是与提示词、任务状态、动作格式和外部流程控制配合使用。它能帮助系统识别输出边界，但不负责判断任务是否真正完成。
使用 Stop Sequence 时需要注意什么？
停止序列是一种实用的输出边界控制手段，但效果依赖于序列选择、提示词格式和任务设计。使用时可以按以下思路检查：
- 先明确希望模型停在哪里，例如段落结束、标签结束、分隔符之前或某个流程节点结束。
- 再选择一个不容易在正文中自然出现的字符序列。
- 在提示词中保持格式边界一致，避免模型生成与停止序列冲突的正文内容。
- 用真实任务样例测试，检查是否会提前停止、未停止或截断关键信息。
- 如果输出质量不稳定，不要只调整停止序列，也要同步检查提示词是否清楚说明了输出内容和格式。
总的来说，Stop Sequence 适合解决模型输出的边界问题。它能帮助控制响应长度和结构，但不能替代完整的提示工程设计；在实际应用中，应把它作为“控制模型生成到哪里停止”的机制，而不是“保证模型回答正确”的机制。