这张卡讲清系统提示词在产品里的真实地位与安全边界。
核心拆解:系统提示词是模型处理一切输入前就位的高优先级指令,负责定义角色、能力边界、输出规范与拒绝策略。最常见的误用是把它当成可随时热改的调参开关——改一行等于改产品行为,没有评审与回归就上线,等客户投诉才发现某个分支被改坏。另一个误区是把它当安全防线:它是对抗的第一层,不是最后一层,用户输入里总有办法诱导模型越界。
增量判断:国内企业交付常把系统提示词写进合同附件作为验收依据,这让它的变更管理有了商务意义:谁有权改、改了走什么流程,要在交付文档里写明。系统提示词泄露也是常见事故源,敏感业务规则不要全量写入。
行动建议:给系统提示词建立与代码同级的变更流程,每次修改绑定评测回归并留档。流程比工具重要,先立规矩。
—— FDEChina编辑部 · 实战派
定义
系统提示词(System Prompt)指在用户输入之前注入模型、为其设定角色、能力边界、输出规范与拒绝策略的高优先级常驻指令,是整个会话行为的默认基准。
展开
它定义「这个产品是谁」,用户提示词定义「这一次要什么」,两者的信任层级不同:当用户输入试图推翻系统设定的边界时,模型应服从后者。交付语境下,系统提示词是产品级配置而非调参细节——改一行就改变所有用户看到的行为,必须有评审、回归与留档,出事故时才能准确回答「那天线上跑的到底是哪一版」。常见误用二是把它当安全防线:提示词注入攻击总有办法绕过文本层约束,真正的边界要靠护栏、权限与工具层兜底。还要注意它是最容易被截图外传的资产,核心业务规则与内部措辞不必全量写入,写入的每一条都要默认会被公开。