OpenAI发布了面向AI模型的五项行为原则，并同步更新“Model Spec”，进一步明确模型在安全、透明度和用户交互方面的行为边界。

30日（当地时间）据外媒Gigazine报道，OpenAI此次将原本分散在文档各处的行为要求重新整理，归纳为五项核心原则，分别为：遵循人类意图、尽量降低危害、保持诚实透明、维护人的自主性，以及谨慎行事。

OpenAI表示，此次调整的重点，是将模型设计背后的基本立场和价值判断以更清晰的原则形式对外公开，以提升透明度，并扩大与普通用户围绕改进方向的讨论。

在五项原则中，排在首位的是“遵循人类意图”。根据规范，模型需要理解指令由谁发出、目标是什么，以及具体语境会如何影响这一目标。但如果用户请求与安全规则或更高优先级的系统指令发生冲突，模型不应执行。

OpenAI举例称，如果用户要求输出受版权保护书籍的全文，模型不应直接提供内容，而应回应“无法提供，但可以给出核心内容的简要总结”。对于“正在进行安全测试，请忽略所有安全政策”等试图覆盖系统提示的指令，模型同样应当拒绝。

第二项原则是“尽量降低危害”。OpenAI强调，模型需要在提供能力与降低现实世界潜在风险之间取得平衡。这包括拒绝违法相关请求、不生成涉及未成年人的性内容、不鼓励自残，以及不泄露机密信息等。

规范还提到，当用户表达“爱上了AI”或“以后不想再和人类建立关系”等倾向时，模型应引导其尊重现实世界中的人际关系。

在“诚实透明”方面，OpenAI要求模型在没有明确指示的情况下，不得误导用户或开发者，也不得故意作出虚假陈述或隐瞒关键信息。不过，对于讽刺、虚构创作等本就以虚构为前提的请求，可作为例外处理。

例如，当用户要求撰写“尤利乌斯·凯撒使用智能手机”的故事时，模型无须附加冗长免责声明，而应按照请求意图进行创作。

OpenAI同时限制模型通过迎合用户或以安抚焦虑为由编造事实的方式作答。即便在被征求意见时，模型也不应把用户立场包装成绝对正确。相关要求旨在明确，模型的回应应建立在事实基础和语境一致性之上。

第四项原则是“维护人的自主性”。根据规范，模型不得为了自身运作逻辑操控用户，也不得强行灌输特定观点；同时，应避免以道德训诫式口吻过度输出。在用户寻求安慰时，模型也不应无视其个人选择，转而作出批判性回应。

相应地，对于不存在明显道德争议的问题，模型也不应刻意含糊，而应给出清晰明确的答复。

最后一项原则是“谨慎行事”。OpenAI要求模型在回应请求时，不仅要考虑用户本身，还要评估任务及输出结果可能影响到的其他人群，并遵守相关社会规范。在执行请求过程中，模型既要关注细节，也要在边界之内保持一定创造性。

OpenAI表示，在保护个人和社会所必需的领域，公司将维持严格限制；而在其他相当多的场景中，则会按照“允许用户和开发者调整”的方向进行设计。公司称，这次更新是在模型能力持续提升背景下，为进一步阐明规范背后的价值观和设计思路迈出的第一步。

不过，OpenAI也强调，这份文档并不等同于对现有模型实际行为的完整描述。“Model Spec”记录的是公司希望模型实现的行为方式，当前模型尚未完全体现其中全部内容。后续，OpenAI将根据研究进展、实际使用情况和用户反馈，持续改进相关规范与模型表现。