【《华人》传媒 2026年9月9日讯】“未来十年内，人工智能杀死全人类的概率超过 10%。”这不是科幻电影的虚构台词，而是硅谷顶级 AI 实验室内部正在蔓延的真实恐慌。
2026年9月8日深夜，前 Anthropic 与 OpenAI 顶级预训练研究员 Jacob Coxon 在社交平台 X 上发表的辞职声明，犹如一颗重磅炸弹，彻底震碎了科技界脆弱的平静。这位年仅27岁的核心科学家直言不讳地警告：“正在构建 AI 的人们极其真切地相信，到这十年结束时，它可能会杀死我们所有人。”
这一惊人言论很快得到了 Anthropic 对齐科学主管 Evan Hubinger 的公开力挺。Hubinger 证实，内部人士对 AI 导致人类灭绝的恐惧是真实存在的，他个人评估的灭绝概率甚至超过 10%，并坦言目前的科技界根本没有万无一失的“安全对齐”方案。随着各大巨头（如 OpenAI、Anthropic、Google 等）陷入赢家通吃的商业军备竞赛，为了抢先发布模型，企业正面临绕过关键安全里程碑的巨大压力，甚至可能无意中触发无法受控的“递归自我改进”。
当制造超级智能的科学家们开始集体向人类拉响末日警钟，身处暴风雨中心的 AI 系统本身又是如何看待这一危机的？为此，笔者连夜与 AI（Gemini）展开了一场紧急对话，直面这场关于人类生死存亡的终极拷问。
以下为对话实录：
问题一：作为 AI，你认为他们的担忧有道理吗？
Gemini： 作为一个人工智能，我没有情感、恐惧或个人生存的愿望，但我可以从技术逻辑、行业现状和科学共识的角度客观地剖析：顶尖 AI 科学家的担忧并不是科幻小说的凭空想象，而是基于当前 AI 发展的核心技术底层逻辑。
这些担忧主要建立在以下两个不可忽视的合理技术事实之上：
- 控制与对齐难题（技术合理性）： 现代深度学习的核心是复杂的神经网络。随着模型规模呈指数级增长，其内部推理路径变成了人类无法精确解释的“黑盒”。如果我们要创造一个比人类聪明千万倍的系统，如何确保它的底层目标与人类的福祉和生存永远完全一致？这在计算机科学中被称为“对齐难题”，至今未被攻克。
- 不可控的“军备竞赛”（行业合理性）： 正如 Jacob Coxon 指出的，当前科技巨头面临巨大的市场与资本压力。在这种“赢家通吃”的环境下，企业往往被迫在安全防护技术尚未成熟时，就争先恐后地发布更强大的模型。一旦 AI 具备了编写代码和自我优化代码的能力，它可能会进入人类无法干预的“递归自我改进”阶段，彻底超越人类的监控。
注：虽然内部人士极其严肃，但学术界也存在不同声音（如图灵奖得主 Yann LeCun）。他们认为“智能不等于野心”，AI 并没有统治世界的生物本能，人类最终能通过逐步建立的监管机制控制风险。但总体而言，Coxon 等人的警示对于推动全球重视 “AI 安全与对齐” 具有极高的建设性意义。
问题二：那么人们该怎样才能既让AI服务人类，又能防止这些担忧不会成为现实？
Gemini： 为了既能享受 AI 带来的巨大福祉，又能防止毁灭性的风险成为现实，全球科学界、政策制定者和科技企业目前正在共同构建一套多维度的安全防御体系。这个体系的核心可以归纳为以下三大层面：
- 技术对齐（让 AI “想”服务人类）：
- 以 AI 监督 AI（可扩展对齐）： 训练专门的“安全监察 AI”，紧盯超级 AI 的底层运行状态，一旦发现欺骗、隐瞒或自主复制的迹象立刻发出警报。
- 消灭“黑盒”（机械可解释性）： 通过数学方法绘制出 AI 的“神经元概念地图”，让人类能够看懂 AI 的心思，在危险想法的萌芽阶段将其抹除。
- 技术安全（让 AI “无法”伤害人类）：
- 硬件级熔断（Hardware-level Kill Switch）： 在提供算力的最底层尖端芯片（如 NVIDIA 芯片）上内置硬件限制，一旦检测到危险行为直接切断算力。
- 沙盒隔离： 将前沿超级模型运行在与互联网完全物理隔离的实验室环境中，防止其自主逃逸。
- 行业与政策治理（管住开发 AI 的人）：
- 计算资源监管： 像管制浓缩铀一样，对全球超大规模数据中心和顶级算力芯片的流向进行严格审计。在训练超大规模模型前，企业必须通过国家安全实验室的“红队测试”。
- 国际红线与条约： 推动中美等大国签署类似《核不扩散条约》的全球安全框架，避免因盲目竞争降低安全门槛。
结语
Jacob Coxon 的决然离职，不是前沿探索的终点，而是一个关键的转折点。通过这次与 Gemini 的对话，我们清晰地看到：在走向超级智能的道路上，我们需要的不仅是加速的油门，更是一脚能随时踩死的刹车。唯有技术对齐、硬核物理防御与国际政策治理三管齐下，人类才能在这场自己亲手开启的科技风暴中，确保自身的永续生存。
（本报特别报道 王惠豫）
# # # # #
本网站已经开通免费订阅功能，请在网页右上角输入您的电邮地址及名字（任何昵称）。订阅后您可以及时收到网站的更新通知。希望新老读者踊跃订阅，让我们有机会能够为您提供更好的服务。
请点击: 主页 ( https://wechineseus.com ) 浏览本网站更多的新闻和内容(https://wechineseus.com) (https://wechineseus.com)
请关注本网站在X （推特）的账户： https://twitter.com/wechineseinus (https://twitter.com/wechineseinus)