【《华人》传媒编辑王惠豫 2023年3月29日】今天（星期三），一群科技行业知名人士，计算机科学家等科技精英发表了一封公开信，呼吁暂停人工智能（AI）实验至少6个月，以评估人工智能的发展对人类社会的潜在风险。

这封公开信是对旧金山初创公司OpenAI最近发布的GPT-4的回应，GPT是其广泛使用的人工智能聊天机器人ChatGPT的更先进的继任者，帮助引发了科技巨头微软和谷歌之间公布类似应用程序的竞赛。

公开信警告说：“人类竞争智能的人工智能系统可能对社会和人类构成深刻的风险"--从用虚假信息充斥互联网和自动化工作到科幻小说中的更多灾难性的未来风险。”

目前已有1100多人签署的这封公开信，包括埃隆-马斯克，他是特斯拉、Twitter和SpaceX首席执行官，也是OpenAI的联合创始人和早期投资者，苹果的联合创始人史蒂夫·沃兹尼亚克，稳定性人工智能（Stability AI）的首席执行官埃马德-莫斯塔克，他是人工智能图像生成器 "稳定扩散 "的制造商，Alphabet旗下DeepMind的研究人员以及AI重量级人物Yoshua Bengio和Stuart Russell。

这封题为《暂停巨型 AI 实验：一封公开信》（Pause Giant AI Experiments: An Open Letter）发表在未来生命研究所网站上（Future of Life Institute）。公开信全文如下：

暂停巨型 AI 实验：一封公开信

广泛的研究表明[1] 并得到顶级 AI 实验室的认可，具有人类竞争智能的 AI 系统可能对社会和人类构成深远的风险。 [2] 正如广泛认可的 Asilomar AI 原则中所述，高级 AI 可能代表地球生命史上的深刻变化，应以相应的关怀和资源进行规划和管理。 不幸的是，这种级别的规划和管理并没有发生，尽管最近几个月人工智能实验室陷入了一场失控的竞赛，以开发和部署更强大的数字思维，没有人——甚至他们的创造者——都无法理解， 预测，或可靠地控制。

当代人工智能系统现在在一般任务上变得与人类具有竞争力，[3] 我们必须扪心自问：我们是否应该让机器用宣传和谎言充斥我们的信息渠道？ 我们应该自动化所有的工作，包括令人满意的工作吗？ 我们是否应该发展最终可能超过我们、超越我们、过时并取代我们的非人类思维？ 我们应该冒险失去对我们文明的控制吗？ 不得将此类决定委托给未经选举产生的技术领导者。 只有当我们确信它们的影响是积极的并且它们的风险是可控的时候，才应该开发强大的人工智能系统。 这种信心必须有充分的理由，并随着系统潜在影响的大小而增加。 OpenAI 最近关于通用人工智能的声明指出，“在某些时候，在开始训练未来系统之前进行独立审查可能很重要，并且对于最先进的努力来说，同意限制用于创建新系统的计算增长率 楷模。” 我们同意。 那一点就是现在。

因此，我们呼吁所有 AI 实验室立即暂停至少 6 个月的训练比 GPT-4 更强大的 AI 系统。 这种暂停应该是公开的和可验证的，并且包括所有关键参与者。 如果不能迅速实施这种暂停，政府应介入并暂停。

人工智能实验室和独立专家应该利用这次暂停，共同开发和实施一套用于高级人工智能设计和开发的共享安全协议，并由独立的外部专家进行严格审计和监督。 这些协议应确保遵守它们的系统是安全的，无可置疑。 [4] 这并不意味着总体上暂停 AI 开发，而只是从危险的竞赛中倒退到具有新兴功能的更大的不可预测的黑盒模型。

人工智能研究和开发应该重新聚焦于使当今强大的、最先进的系统更加准确、安全、可解释、透明、稳健、一致、值得信赖和忠诚。

与此同时，AI 开发人员必须与政策制定者合作，以显着加快开发强大的 AI 治理系统。 这些至少应包括：专门负责 AI 的新的和有能力的监管机构； 监督和跟踪高性能人工智能系统和大量计算能力； 出处和水印系统，以帮助区分真实与合成并跟踪模型泄漏； 强大的审计和认证生态系统； 人工智能造成的伤害的责任； 为技术人工智能安全研究提供强大的公共资金； 以及资源充足的机构来应对人工智能将造成的巨大的经济和政治破坏（尤其是对民主的破坏）。

人类可以享受人工智能带来的繁荣未来。 成功创建强大的 AI 系统后，我们现在可以享受“AI 之夏”，收获回报，设计这些系统以造福所有人，并为社会提供适应的机会。 社会已经暂停其他可能对社会造成灾难性影响的技术。 [5] 我们可以在这里这样做。 让我们享受一个漫长的 AI 夏天，而不是毫无准备地陷入秋天。

任何人可以进入网站 Pause Giant AI Experiments: An Open Letter - Future of Life Institute 签署该公开信。

（综合来源：Future of Life Institute, NPR, 等）

# # # # #

本网站已经开通免费订阅功能，请在网页右上角输入您的电邮地址及名字（任何昵称）。订阅后您可以及时收到网站的更新通知。希望新老读者踊跃订阅，让我们有机会能够为您提供更好的服务。

请点击:  主頁 (wechineseus.com) 浏览本网站更多的新闻和内容

请关注《华人》媒体的推特帐户: https://twitter.com/wechineseinus