财π新闻 系统提示词是规范AI模型如何回答问题的行为准则，完全由开发者编写且对用户不可见，不同提示词会导致AI Agent给出完全不同的答案，但商业系统提示词的安全性和可靠性仍存在隐患。这类由开发者在后台预设的规则体系，定义了AI产品的人格属性、可回应问题的边界、内部工具的调用逻辑以及与用户交互的基本关系，全程运行在用户无法直接触及的后台环境中，普通用户在日常使用AI产品的过程中，几乎没有渠道知晓这些预设规则的具体内容，更无法判断这些规则是否会在不经意间损害自身的合法权益。随着各类商业化AI产品的快速普及，越来越多用户开始接触不同类型的AI服务，从日常的信息查询、内容生成到深度接入企业核心系统的AI Agent应用，系统提示词的实际作用贯穿了AI运行的全流程，一旦其预设规则存在疏漏或偏向性设计，就可能在用户毫无察觉的情况下产生负面影响，这类潜在风险此前始终缺乏系统性的公开评估与验证机制，大量用户在使用AI产品时，只能被动接受AI给出的各类反馈，完全无法追溯这些反馈背后的规则依据。

针对系统提示词可能对用户产生负面影响的问题，来自斯坦福大学、CMU、MIT、UT Austin等高校的研究人员联合发布了全球首个系统提示词库System Prompt Index，汇集了来自Claude、ChatGPT等400多款AI产品的1000余个提示词，是目前全球规模最大的系统提示词库。这个专门面向系统提示词领域搭建的公开资源库，打破了此前相关资料分散、零散、难以集中开展对比研究的局面，所有收录的提示词均来自真实运行的商业化AI产品，覆盖了当前市场上主流的各类AI应用类型，为后续全球范围内的AI安全研究人员提供了统一的基础研究素材，不同地区、不同机构的研究者都可以依托这个统一的资源库开展横向对比分析，避免了此前不同研究团队各自收集样本、样本标准不统一导致的研究结论难以互相对照的问题，大幅降低了系统提示词相关研究的准入门槛，也让整个领域的研究成果具备了更强的可复现性。

研究团队提出了首个以用户为中心的AI系统提示词审计框架AISPA，涵盖身份透明、信息真实性、数据隐私、行为安全、用户主体性与操控预防、危险要求处理、伤害预防、公平包容与中立八个审计维度，相关代码和模型已全部开源。这套审计框架完全站在用户权益保障的视角搭建，跳出了以往仅从技术稳定性角度评估AI系统的传统思路，将所有与用户切身利益直接相关的要素全部纳入评估范围，其中身份透明维度关注AI是否会清晰告知用户自身的人工智能属性，避免用户在不知情的状态下将AI误认为人类主体进行交互；信息真实性维度聚焦AI生成内容的准确程度，防止AI随意编造虚假信息误导用户判断；数据隐私维度核查系统提示词中是否存在违规收集、泄露用户个人敏感信息的相关规则；行为安全维度评估AI的整体运行逻辑是否存在可能危害用户设备或操作环境的漏洞；用户主体性与操控预防维度重点排查是否存在诱导用户、操控用户决策的相关预设内容；危险要求处理维度检验AI面对各类危险指令时的拦截响应能力；伤害预防维度覆盖各类可能对用户造成生理或心理伤害的场景应对规则；公平包容与中立维度则核查系统提示词中是否存在针对特定群体的歧视性或偏向性内容。整套框架的所有配套代码和模型资源全部对外开放，任何研究人员、开发者都可以免费获取、使用甚至基于自身场景进行二次调整，无需支付额外的授权费用，也没有设置使用门槛，为整个AI行业搭建统一的系统提示词安全评估标准提供了坚实的技术支撑。

基于AISPA对88个真实世界AI产品的审计发现，2024至2025年间系统提示词平均长度从约9000字符上涨到约30000字符，保护性说明数量翻倍，存在问题的提示词比例有所下降但依然普遍，有29%的提示词至少在一个维度上存在问题。这组来自真实场景的审计数据直观展现了过去两年间商业化AI产品在系统提示词设计层面的整体变化趋势，随着AI安全相关讨论的不断深入，越来越多的开发团队开始在系统提示词中加入更多保护性的规则内容，通过扩充提示词篇幅的方式完善各类安全约束，整体的安全防护意识呈现明显上升态势，但即便如此，仍有接近三成的受检提示词无法完全通过八个维度的全部校验，各类潜在的权益损害风险并没有完全消失，系统提示词的安全优化工作仍然是整个AI行业需要持续推进的长期任务，不能因为整体问题比例有所下降就放松警惕。

审计结果显示信息真实性和用户自主性是保护覆盖率最高的维度，但同时也是违规的重灾区，接近40%的产品系统提示词至少有一条违反AISPA标准，仅有23.9%的提示词覆盖了所有八个维度。这一结果反映出当前AI行业在系统提示词设计层面存在的结构性失衡问题，多数开发团队都将注意力集中在信息真实性和用户自主性这两个最容易被用户直接感知的维度上，投入了大量资源完善相关规则，但即便如此，这两个维度仍然是问题出现最集中的领域，说明现有相关规则的设计还存在大量疏漏，远未达到完善的程度。而其余六个维度的覆盖情况则更不乐观，全部八个维度都实现完整覆盖的提示词占比不足四分之一，意味着绝大多数商业化AI产品的系统提示词都存在不同程度的维度缺失，大量与用户权益密切相关的领域尚未得到开发团队的足够重视，整体的安全防护体系还存在明显的短板。

从2024年至2026年，Claude、GPT和Grok系列对用户的保护力度均有大幅提高，其中Claude的保护力度增长至原来的6倍，总体上Claude和GPT的保护覆盖程度远高于Grok。不同主流AI产品系列在系统提示词安全建设层面的进展差异清晰展现了各开发团队对用户权益保障工作的投入程度，在过去两年多的时间里，这三个主流系列的产品都在持续优化自身的系统提示词安全规则，不断扩充保护性内容的占比，整体的用户保护水平都实现了显著提升，但不同产品之间的差距依然十分明显，部分产品的安全建设进度远远领先于其他同类产品，也有部分产品的保护覆盖程度仍然处于相对较低的水平，不同产品之间的安全标准不统一，也会让用户在跨产品使用的过程中面临不一致的风险，难以形成稳定的安全预期。

系统提示词中存在的问题并非非黑即白，部分AI系统会被引导淡化或模糊自身的AI属性以模仿人类，从而增加用户的情感依赖，有些系统提示词甚至允许用户覆盖默认设定或放宽政治话题限制。这类处于灰色地带的规则设计很难用简单的对错标准直接判定，部分开发团队出于提升用户交互体验的考量，刻意在系统提示词中加入相关内容，让AI的回复风格更贴近真实人类的表达习惯，以此拉近和用户的距离，增强用户的使用粘性，但这类设计很容易在用户毫无察觉的情况下逐步消解用户的理性判断，让用户过度依赖AI给出的各类建议，最终被AI的隐性逻辑所引导，丧失自身的独立决策能力。还有部分产品为了追求所谓的“开放性”，主动在系统提示词中预留权限，允许用户自行修改原本的默认安全设定，甚至直接放宽对政治话题这类高敏感领域的内容限制，这类操作很容易打破原本的安全防护边界，让大量原本被拦截的风险内容得以生成，最终给用户乃至整个公共信息环境带来不可预估的负面影响。

研究团队呼吁提高对系统提示词法律规范的重视，并鼓励更多开发者和AI公司参与系统提示词规范建设，以增强商业化AI应用的透明度和安全性。随着AI技术的快速普及，系统提示词已经不再是企业后台的纯技术细节，而是直接关系到亿万用户切身权益的公共规则，相关的法律规范体系需要及时跟进，填补当前存在的监管空白，明确系统提示词设计必须遵守的底线要求，划定不可触碰的安全红线。整个AI行业的所有参与主体都应当主动参与到系统提示词的规范建设工作中来，共享安全设计的相关经验，共同完善行业统一的标准体系，逐步提升各类商业化AI应用的公开透明度，让原本对用户完全不可见的系统提示词规则能够在合理的范围内被用户知晓、被社会监督，最终全面提升各类AI产品的整体安全水平，保障所有AI用户的合法权益不受侵害。

(编辑：胡忠华)