千人签名呼吁暂停AI研发，马斯克、苹果联合创始人在列

作者：鹤山

昨日（3月29日），一封公开信被发表在future of life网站，呼吁暂停巨型人工智能实验。

截至发稿，这封公开信已收到1000多人的支持，其中包括特斯拉CEO埃隆·马斯克、苹果联合创始人史蒂夫·沃兹尼亚克、伯克利大学计算机科学教授Stuart Russell等多位商界和学界的知名人物。另外，ChatGPT母公司OpenAI的CEO Sam Altman可能也在签署名单之列。

公开信中表示，“正如广泛的研究所表明的那样，具有人类智能的人工智能系统可能对社会和人类构成深远的风险。”

“人工智能可能代表地球生命史上的深刻变化，应该投入相应的关注和资源进行规划、管理。但不幸的是，这种级别的规划和管理并没有发生，在最近几个月，人工智能实验室陷入了一场失控的竞赛，争相开发和部署更强大的人工智能系统，这样的失控导致连他们的创造者都不能完全理解、预测或可靠地控制它们。”

“当人工智能系统有能力和人类竞争时，我们必须扪心自问：我们是否应该让机器用虚假信息充斥我们的信息渠道？我们是否应该自动化所有的工作，包括令人满意的工作？我们是否应该发展出可能最终超过、并取代我们的非人类思维？我们能够承受失去对文明控制的风险吗？这类决策不应委托给未经选举的技术领导者。只有当我们确信其影响是积极的，且风险可控时，才应该开发强大的人工智能系统。”

利用这段暂停时间，作者提出各界应共同制定一套安全协议：“人工智能实验室和各界专家应该利用这个暂停时间，针对先进人工智能设计和开发，共同制定和实施一套共享的安全协议，这些协议由独立的外部专家进行严格审计和监督。这些协议应确保它们的系统是安全的。这并不意味着人工智能开发的永久停止，只是将这项新技术从危险的竞争中拯救出来”。

作者呼吁暂停人工智能系统的训练，并引入各国政府的介入监管：“因此，针对任何比GPT-4更强大的人工智能系统的训练，我们呼吁所有人工智能实验室立即暂停至少 6 个月。这种暂停应该是公开的和可核查的，并包括所有关键行为者。如果不能迅速实施这种暂停，各国政府应该介入并实施暂停。”

在公开信的最后，作者将目前的AI爆发期比作夏天，并表达了对这种过快爆发的担忧：“人类可以通过人工智能享受繁荣的未来。在成功创建了强大的人工智能系统之后，我们现在可以享受一个“人工智能之夏”，在这个夏天，我们获得了回报。设计这些系统，为所有人带来明显的利益，并给社会一个适应的机会。社会应该暂停其他可能对社会产生灾难性影响的技术，让我们享受一个漫长的AI夏天，而不是毫无准备地匆匆忙忙地进入秋天。”

虽然公开信的作者极力表达对AI过快发展的担忧，并且获得了众多权威人士的支持，但外网网友对信中所期望的结果并不抱乐观态度。

一些网友表示：“没有人会停止训练，甚至会得到相反的结果”、“听起来这种行为只能暂时减缓痛苦”。

也有网友对信中内容表达了反对态度：“潘多拉的盒子已经打开了，与其停在这里，不如改变我们自己不道德的行为”。

更有网友认为，支持这封公开信的人，只是想让他们背后的公司能有时间赶上GPT。

无论这封信背后的动机以及最后的结果如何，人工智能的趋势已经不可阻挡，关于AI安全性的讨论也还会持续很久。