包括埃隆·马斯克、苹果联合创始人史蒂夫·沃兹尼亚克在内的1100多人签署了一封公开信，呼吁暂停AI研发。

截至发稿，签名人数已升至1125人。

该公开信写道：“我们呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练，至少6个月。”

这封信由位于美国马萨诸塞州的非营利组织生命未来研究所(Future of Life Institute, FLI)发布，签名者包括马斯克、Stability AI首席执行官伊马德·穆斯塔克(Emad Mostaque)、谷歌母公司Alphabet旗下DeepMind的研究人员，以及图灵奖得主约书亚·本希奥(Yoshua Bengio)和人工智能先驱斯图尔特·罗素(Stuart Russell)。

此外，签署者中还有一些来自Facebook母公司的工程师，自称电工和美容师的其他非科技界人士。

值得注意的是，到目前为止，没有OpenAI的员工在这封公开信上签名，尽管有消息称该公司首席执行官山姆·阿尔特曼(Sam Altman)的名字曾短暂出现，然后从签名者名单中消失了。

今年3月14日，微软支持的OpenAI宣布推出大型多模态模型GPT-4，这距离ChatGPT的上线仅仅过去了4个月时间。

和ChatGPT最初使用的GPT-3.5模型相比，GPT-4实现了几个方面的飞跃式提升：强大的识图能力、文字输入限制提升至2.5万字、回答准确性显著提高等。

自发布以来，ChatGPT已促使竞争对手加速开发类似的大型语言模型，并促使企业将生成式人工智能模型集成到其产品中。

公开信呼吁暂停高级人工智能的开发，直到为此类设计制定、实施和由独立专家审核的共享安全协议。

信中说:

“当代人工智能系统现在在一般任务上已经具备了与人类竞争的能力，我们必须问自己： 我们应该让机器用宣传和谎言淹没我们的信息渠道吗？我们是否应该把所有的工作都自动化掉，包括那些有成就感的工作？我们是否应该开发非人类的大脑，使其最终在数量上、智力上超过我们，淘汰并取代我们？我们是否应该冒着失去对我们文明的控制的风险？这样的决定绝不能委托给未经选举产生的科技领袖。只有当我们确信它们的影响是积极的、风险是可控的情况下，才应该开发强大的人工智能系统。”

此信指出，在最近几个月，不知名的“人工智能实验室”已经“陷入了一场失控的竞赛，以开发和部署更强大的数字大脑，没有人——甚至包括它们的创造者——能够理解、预测或可靠地控制。”

联名信的签署人说，他们所要求的暂停应该是“公开且可核查的，并包括所有关键行为者”。信中指出，如果上述暂停“不能迅速实施，政府应该介入并实施暂停”。

这封信发出之际，欧洲刑警组织(Europol)周一加入了对ChatGPT等先进人工智能的道德和法律担忧的行列。

该执法机构警告称，先进人工智能可能被滥用于网络钓鱼企图、虚假信息和网络犯罪。

马斯克的电动汽车公司特斯拉正在将人工智能用于自动驾驶系统，他一直直言不讳地表达了自己对人工智能的担忧。

Pause Giant AI Experiments公开信链接： https://futureoflife.org/open-letter/pause-giant-ai-experiments/

主编精选，篇篇重磅，请点击订阅“邮件订阅”