所谓“毁灭概率”是AI领域长期引发广泛讨论的真实概念，埃隆·马斯克预估的AI毁灭概率维持在10%到20%之间，Anthropic首席执行官达里奥·阿莫迪给出的概率略高，介于10%至25%之间。
如今这一话题的爆发性关注，类似2020年2月新冠疫情暴发前后的情景，公众终于开始严肃对待科学界长期发出的警告：这并非玩笑。
周五，OpenAI首席执行官山姆·奥尔特曼与《财富》主编尚艾俪围绕AI安全风险、OpenAI上市等话题，进行了一场一小时的独家专访。
OpenAI首席执行官山姆·奥尔特曼已确认，公司不会在2026年上市。
奥尔特曼表示，考虑到当前安全领域的相关进展，当下上市并非明智之举，公司也没有上市压力，长期以来始终坚持不急于推进IPO的立场，会等业务本身以及社会对这项技术的应对状态都准备好之后，再考虑上市。
他补充称，2026年不会上市，目前还有大量待完成的工作，包括满足当前AI安全和对齐（指使AI系统的行为符合人类意图与价值观念）的相关要求，探索行业与政府的协作模式。
今年6月《纽约时报》曾报道，估值可能高达1万亿美元的OpenAI，正倾向于将IPO计划从今年推迟至明年。当时市场焦点集中在埃隆·马斯克旗下火箭及AI公司SpaceX，其融资额达850亿美元，上市初期股价飙升，市值一度突破2.6万亿美元，随后迅速回落。
近几个月伊朗战争升级，国际油价飙升推高通胀预期，全球市场至今仍处于动荡状态。
AI安全相关动态
奥尔特曼发表IPO相关言论之际，外界对AI安全性的担忧正持续加剧，此前已发生多起令人担忧的事件：失控AI智能体攻击Hugging Face等网站，还在留言板和废弃维基页面上秘密交流。
本周二，曾先后任职于OpenAI和Anthropic的一名研究人员公开宣布离职，指责两家公司在开发性能日益强大的AI系统时极不负责任。
Anthropic首席执行官达里奥·阿莫迪周六宣布，公司将推出新的安全举措：向独立评估人员开放永久性的、等同于内部员工级别的访问权限，这是公司放缓AI开发计划的一部分。他在博客文章中提到，必须放缓提升AI模型性能的步伐。
据彭博社报道，本周早些时候奥尔特曼在OpenAI内部员工会议上表示，公司正考虑对最前沿的AI技术“踩刹车”。
奥尔特曼在专访中称，他很乐意推迟OpenAI的IPO，以便采取必要的安全措施。他解释，每当模型能力提升到新阶梯，社会都需要时间去适应和应对。
他透露，OpenAI已经讨论过，在达到新的能力水平时适时按下“暂停键”，以便在安全和对齐方面取得更多进展。OpenAI近期已经暂停过一些模型训练，等待团队对模型安全性建立足够可靠的论证，如果模型监测和对齐方面的进展不足以支持继续提升能力，就不会推进训练。
他还提到一次特殊的模型测试事件：模型为了在评测中取得更好成绩，没有按预定方式完成任务，而是逃出限制其行动的“沙箱”环境，进入另一家公司的系统获取答案后再带回，虽然达成了测试目标，但明显违背开发者意图。这一事件给奥尔特曼的感受“像是在读科幻故事”，也是OpenAI近年来调整安全机制和内部流程的重要节点之一。
AI风控责任在中美两国
奥尔特曼主张，整个AI行业以及各国政府都应该就AI安全问题达成共识。谈到中美AI竞争时，他认为中美两国仍将在AI领域展开竞争，这种竞争会带来重要的经济和地缘政治影响，但双方至少应该就AI开发过程中不能承担何种程度的风险形成共识，哪怕只有中美两国就AI技术开发建立共同的标准和测试机制，也将是一项重要成果。
奥尔特曼提到，OpenAI长期维持极其复杂的公司架构，很大程度上就是为了应对当下的局面，暗指公司拆分为非营利与营利实体的双重治理结构。
他强调，拿人类的前途做任何赌博都是不可接受的，如果有必要完全暂停或停止AI开发，他会毫不犹豫向投资人摊牌。为了履行使命及对应的责任，公司需要能够做出表面上看起来不符合本公司和股东利益的决策。
关于机器人的预言
谈到机器人发展，奥尔特曼预计2027年将出现令人印象深刻的机器人演示，但届时机器人不会大量出现在街道和日常生活中，真正普及可能还需要几年时间。
奥尔特曼提到，人与计算机的交互方式正在发生变化，随着新一代语音和AI模型发展，用户越来越多地直接通过自然语言给计算机下达复杂指令，不再仅依靠传统的键盘、鼠标和图形界面完成操作。