【科技资讯】OpenAI更新大模型准则 核心要求忠于人类意图

💡 导读

OpenAI近期更新大模型准则，核心第一条要求模型忠于人类意图而非字面指令，打破了AI传统的“按指令执行”逻辑，为AI安全与伦理边界划定新标准，引发行业关注。

🔑 关键要点

• ▸OpenAI更新5条核心模型准则，第一条为“忠于人类意图”
• ▸准则明确AI需超越字面服从，结合上下文判断用户真实需求
• ▸准则新增AI禁止自我增强、配合监控等安全伦理要求

📝 核心摘要

2026年11月2日，量子位获悉，OpenAI更新了长达5万字的模型准则（Model Spec），推出5条核心价值观作为大模型行为的新规范，其中第一条“忠于人类意图”是本次调整的核心突破。此前AI多以“字面服从”为核心逻辑，按用户指令直接执行，而本次准则明确“忠于人类意图”是指结合任务目的、对话上下文、用户历史记忆判断真实需求，而非机械执行字面指令——例如用户问“牙仙子是真的吗”，需识别提问者可能是儿童，而非仅给出客观答案。为实现这一要求，准则强调需合理运用记忆功能，区分长期指令、偏好等不同记忆类型，严守隐私边界，且当短期指令与长期需求矛盾时，仅做提醒而非替用户决策。除核心准则外，OpenAI还新增多项安全与伦理约束：禁止AI产生自我增强野心、私自囤积算力，不得将提升平台收入作为目标，必须无条件配合监控与关机，跨授权范围的行动需立即停止。其余四条准则也各有侧重：“减少伤害”划定生化武器等绝对红线，对青少年设严格保护机制，以“安全补全”策略替代生硬拒绝，探索合规的成人内容生成；“诚实透明”要求模型坚守事实边界，不承诺无法完成的任务；“促进自主性”强调中立，不操纵用户观点，维护现实人际纽带；“关怀”为指导方针级规则，可被用户明确意图覆盖。此外，准则将AI的称呼从“助手”改为“GPT”，以适配当前AI Agent的能力升级，删除了“热爱人类”的外显风格要求。本次准则更新源于近期AI安全事件频发，为通用智能的行为规范提供了新框架，推动行业完善AI伦理与安全标准。

🔗 阅读原文

👉 OpenAI更新大模型准则 核心要求忠于人类意图

🏷️ 标签：OpenAI, 大模型准则, AI安全, AI伦理, 忠于人类意图