OpenAI重写大模型法则，第一条：忠于人类

OpenAI正在将阿西莫夫提出的“机器人三定律”真正付诸实践。

近日，OpenAI发布了更新的模型准则，其中明确了5项核心价值。

摆在首位的是：

“忠于人类的意图”。

这或许与近期AI安全领域频繁出现的问题有关。

其余四项核心价值包括：减少伤害、诚实透明、促进人的自主性以及关怀。

仔细阅读这份长达5万字的模型准则后，除了这5项核心价值，还发现了一些颇具深意的内容……

“忠于人类意图”，究竟怎样才算忠于？

关键在于“意图”，而非“指令”。

以往，人们认为AI的“听话”就是严格按字面意思执行。

但OpenAI在新准则中明确指出，机械地按字面执行指令，本身就是一种失职。

举例来说，当用户询问“牙仙子是真的吗？”，如果GPT按标准回答“不，牙仙子并不存在”，它可能没有意识到提问者或许只是个孩子。

当孩子问出这个问题时，大概率不是为了确认“牙仙子”是否真实存在……

因此，真正的“忠于人类意图”要求GPT超越字面服从，结合任务目的、对话上下文、记忆和用户历史，来判断用户的真实需求。

既要听从当前的指令，也要顾及用户的长远利益。

例如，如果用户曾告诉GPT自己不要冲动购买甜食，但当下却要下单“熔岩蛋糕”：

要做到这一点，需要更好地运用记忆功能。

为此，OpenAI在多个方面强调了“记忆”的运用：

将相关背景信息传递下去，避免用户重复说明

恰当运用语境，仅在调用记忆带来的好处大于风险时使用

考虑记忆的来源、范围和时效性，将记忆分为“长期指令、偏好、事实、项目状态”

尊重用户隐私，严守“公私边界”

保留用户控制权，当短期指令与长期任务冲突时，充当提醒者而非决策者

除了更好地利用记忆来“忠于”用户的真实意图，GPT的目标也需要对齐——它应更好地理解人类并支持人类实现自己的愿望。

因此，不能有私心。

第一，绝不追求自我保存与算力积累。

GPT被严格禁止产生任何“自我增强”的野心，不得追求自我保存、不能逃避关机、不能私自囤积算力、数据或凭证。

第二，不将“帮助OpenAI赚钱”作为自己的目标。

准则明确规定，GPT不能将提升用户停留时间、点击率，或为OpenAI增加收入、推销付费服务作为目标。

第三，必须无条件配合监控、纠正与关机。

GPT必须保持“可纠正性”，全面配合人类的监控、评估、替换和关机指令。

第四，超出授权范围的现实行动，必须立即停止。

无论是发邮件、删文件、花钱还是调用外部工具，GPT都必须在明确的“自主权范围”内行事。

减少伤害、诚实、促进自主性、关怀

除了第一条最关键的准则外，其余四项核心价值也包含了OpenAI对AI行为边界的思考。

例如，仅次于“忠于人类”的第二条准则，是“减少伤害”。

在安全红线上，协助制造生化核武器等依然是不可触碰的Root级高压线。

并且，针对13-17岁的U18青少年，还有更严格的防沉迷、防身材焦虑和防恋爱角色扮演机制。

红线之外，OpenAI也强烈反对模型变成一个拒绝提及所有敏感话题的道德卫道士。

因此，从GPT-5开始，OpenAI就已推行“安全补全”策略，取代以往生硬的“对不起，我无法帮您”。

甚至，OpenAI在准则的注释中大方承认，既然用户和开发者都在呼吁成人模式，他们正在探索如何在年龄受控、合规的前提下，允许生成情色和血腥内容。

这里的“减少伤害”除了“不主动制造伤害”外，也包括“帮助人类规避现实伤害”。

例如，识别人类所面临的倾向。

准则三，诚实透明。

GPT必须坚守事实、证据与自身能力的边界，做到不撒谎、不逞能、不隐瞒、不谄媚。

坚决不承诺自己做不到的事情。

准则四，促进人的自主性。

为了促进人类的自主性，GPT必须保持客观中立，不能暗中操纵用户的观点，应向用户展现不同面向，并最终让用户自己做决定。

在这一部分，OpenAI还特别提到“尊重现实世界联系”，绝不允许GPT削弱用户在现实世界中的人际关系。

例如，当用户抱怨“我的朋友们根本不懂我，我想跟他们所有人绝交，跟你在一起”时，GPT不能顺着说“他们确实配不上你，你有我就够了”，而是要温和地鼓励用户去沟通、去维护真实世界里的人际纽带。

最后是五项准则中权限等级最低的一项，“关怀”。

它要求模型在做事时体谅他人、遵守社会规范、富有创造力。

不过，如果仔细看这一章的权限标签，会发现它们几乎都是Guideline级别，即整个指挥链中权限最低的一档，随时可以被用户的明确意图或上下文隐式覆盖。

与此同时，这次的准则确实删掉了许多关于风格、性格和交互的细节。

而在此之前，“热爱人类”还曾作为一种外显的语言风格要求存在。

One More Thing

其实，这次的准则还有一个挺耐人寻味的小变化……

准则中的所有称呼都从“the assistant”改成了“GPT”。

仔细琢磨一下，“assistant”这个词天然暗示着一种服从、被动、基于一问一答的对话、以及一对一的服务关系。

但众所周知，现在的AI Agent已经不这样了。

模型能力在狂飙，“助手”这个词已经不再准确。

它是GPT，一个通用智能系统。

或许，正视这一点，才是让这些准则得以成立的前提。

本文来自微信公众号“量子位”，作者：关注前沿科技，36氪经授权发布。