【《华人》传媒 2025年8月13日】被誉为“人工智能教父”的杰弗里·辛顿（Geoffrey Hinton）担心，他参与研发的技术可能会毁灭人类——而“科技大佬们”却采取了错误的方法去阻止它。

辛顿是一位诺贝尔奖得主，曾任谷歌高管的计算机科学家。他曾警告称，人工智能毁灭人类的可能性高达10%到20%。周二，他对科技公司试图确保人类在“顺从的”人工智能系统面前保持“主导地位”的做法表示质疑。

“这行不通。它们会比我们聪明得多。它们会有各种各样的方法来规避这种局面，”辛顿在拉斯维加斯举行的行业会议Ai4上说道。

辛顿警告说，未来人工智能系统可能能够像成年人用糖果贿赂3岁孩子一样轻易地控制人类。今年已经出现了一些人工智能系统为了实现目标不惜欺骗、欺诈和偷窃的例子。例如，为了避免被取代，一个人工智能模型试图就其在一封电子邮件中了解到的婚外情勒索一位工程师。

辛顿没有强迫人工智能屈服于人类，而是提出了一个耐人寻味的解决方案：在人工智能模型中植入“母爱本能”（maternal instincts），这样即使技术变得比人类更强大、更智能，“它们仍然会真正关心人类”。

辛顿说：“如果人工智能系统足够智能，它们很快就会发展出两个子目标：一个是生存……（并且）另一个子目标是获得更多控制权。” “我们有充分的理由相信，任何一种具有代理能力的人工智能都会努力生存下去。”

辛顿认为，这就是为什么培养对人类的同情心至关重要。在会议上，他指出，母亲有照顾婴儿的本能和社会压力。

“正确的模型是我们目前唯一拥有的模型，即一个更智能的生物被一个更不智能的生物控制，也就是母亲被她的孩子控制，” 辛顿说。

“唯一的好结果”

辛顿表示，他目前尚不清楚从技术上如何实现这一点，但他强调，研究人员在这方面的努力至关重要。

“这是唯一的好结果。如果它不能养育我，它就会取代我，”他说道。“这些超级智能、充满爱心的人工智能母亲，大多数都不想摆脱母性本能，因为它们不想让我们死去。”

辛顿以其在神经网络方面的开创性工作而闻名，这为当今的人工智能繁荣铺平了道路。2023 年，他从谷歌辞职，开始公开谈论人工智能的危险。

曾短暂担任 ChatGPT 所有者 OpenAI 临时首席执行官的 Emmett Shear 表示，他对一些人工智能系统试图勒索人类或绕过停工命令并不感到惊讶。

“这种情况一直在发生。这种情况不会停止，”人工智能对齐（alignment）初创公司 Softmax 的首席执行官 Shear 在 Ai4 大会上说道。 “如今的人工智能相对较弱，但它们正在快速增强。”

Shear 表示，与其试图将人类价值观灌输到人工智能系统中，更明智的做法是建立人与人工智能之间的合作关系。

人工智能的发展速度超出预期

许多专家认为，人工智能将在未来几年实现超级智能，即通用人工智能 (AGI)。

辛顿表示，他过去认为实现通用人工智能可能需要 30 到 50 年，但现在他认为这一刻来得更快。

“合理的预测是 5 到 20 年之间，”他说道。

尽管辛顿仍然担心人工智能可能出现的问题，但他希望这项技术能够为医学突破铺平道路。

“我们将会看到颠覆性的新药。我们将获得比现在更好的癌症治疗方法，”他说道。例如，他表示人工智能将帮助医生梳理和关联 MRI 和 CT 扫描产生的海量数据。

然而，辛顿并不相信人工智能能帮助人类实现永生。

“我不相信我们会永生，”辛顿说。“我认为永生将是一个大错误。你希望这个世界被200岁的白人统治吗？”

当被问及如果他知道人工智能的发展速度如此之快，他会在职业生涯中做出哪些不同的选择时，辛顿表示，他后悔只专注于让人工智能发挥作用。

“我也希望我当时能考虑到安全问题，”他说。

(来源： CNN)

# # # # #

本网站已经开通免费订阅功能，请在网页右上角输入您的电邮地址及名字（任何昵称）。订阅后您可以及时收到网站的更新通知。希望新老读者踊跃订阅，让我们有机会能够为您提供更好的服务。

请点击: 主页 ( https://wechineseus.com ) 浏览本网站更多的新闻和内容(https://wechineseus.com) (https://wechineseus.com)

请关注本网站在X （推特）的账户： https://twitter.com/wechineseinus (https://twitter.com/wechineseinus)