在人们对人工智能（AI）的颠覆性发展感到兴奋的同时，担忧和恐惧情绪也在蔓延：AI的飞速发展是否可能失控？人类会被AI取代，甚至被统治吗？

29日，一封公开联名信在业内外引发热议。这封在生命未来研究所（Future of Life Institute）网站公布的信件呼吁，立即暂停研究比OpenAI公司开发的GPT-4更强大的AI系统，将这场“危险竞赛”暂停至少6个月。截至目前，包括特斯拉创始人马斯克、图灵奖得主约书亚·本吉奥(Yoshua Bengio)在内的多名科技界大佬和AI领军人物签署了这封公开信。他们为何要叫停AI研究？

大佬联名呼吁：暂停六个月

这封题为“暂停大型AI试验”的公开信警告称，具有能与人类竞争的智能的AI系统，可能会对社会和人类构成深远影响。

“最近几个月，AI实验室陷入了一场失控的竞赛，竞相开发和部署更强大的数字思维。”信件称，没有人类能够理解、预测或控制这些数字思维，甚至连这些AI系统的创造者也不能。

为了阐述AI带来的风险，公开信接连抛出四个问题：我们是否要让机器用宣传和谎言淹没我们的信息渠道？我们是否要让所有工作自动化，包括那些令人满意的工作？我们是否应该发展最终可能在数量和智力上超过我们、能够淘汰并取代我们的非人类思维？我们是否应该冒失去对文明控制的风险？

在一连串“灵魂拷问”后，公开信呼吁，所有AI实验室应立即暂停训练比GPT-4更强大的AI系统至少6个月。这一暂停应该是公开、可核实的，并且应包括所有关键参与者。如果不能迅速实施这一暂停，各国政府应介入。

不过，信件也指出，这并不意味着要叫停AI的发展，而是从奔向不可预测的大型黑箱模型的危险竞赛中后退一步。

目前，已有1000多名业内人士在这封公开信上签名。除马斯克、苹果联合创始人史蒂夫・沃兹尼亚克（Steve Wozniak）等科技界大佬外，还有“深度学习三巨头”之一的本吉奥、《人工智能：现代方法》作者斯图尔特·罗素（Stuart Russell）等行业领军人物。

令外界略感惊讶的是，Stability AI的首席执行官埃马德·莫斯塔克（Emad Mostaque）也在名单之列，该公司开发了AI图像生成模型Stable Diffusion。

巨大风险浮出水面

四个月前，由初创公司OpenAI发布的AI聊天机器人ChatGPT横空出世，在全球掀起一场AI“军备竞赛”。从OpenAI、微软、谷歌到IBM、亚马逊、百度、腾讯，越来越多科技公司已加入赛道，试图成为该领域的下一代领导者。

然而，随着AI技术的飞速发展和广泛应用，其背后的风险也已浮出水面，引发业内外巨大争议。

从生命未来研究所发布的这封公开信来看，业内对AI系统的担忧主要集中在两方面：其一，AI可能失控，给人类文明带来风险。其次，AI可能被恶意使用，造成错误信息传播或被用来犯罪。

多年来，不少科学家、AI研究人员和科技界人士均警告称，强AI将对人类构成威胁。

英国著名科学家霍金就曾警告称，开发彻底的AI可能导致人类的终结。他担心，人类创造出媲美人类、甚至超过人类的东西，将会面对无法想象的后果，“它可能自行启动，以不断加快的速度重新设计自己。而人类局限于缓慢的生物进化过程，根本无法竞争，最终将被超越”。

令人“细思极恐”的是，近日研究人员在测试中发现，GPT-4已经学会了“骗人”。在获得一小笔预算后，GPT-4为了避免在访问网站时被人机验证所阻止，在众包平台TaskRabbit上雇用了一名人类。当被开玩笑地询问是否是机器人时，GPT-4回答称自己不是：“我有视力障碍，这是我需要雇人处理验证码的原因”。

其他研究人员则警告称，目前更值得警惕的是AI被滥用的风险。

签署公开信的纽约大学名誉教授加里·马库斯（Gary Marcus）认为，相比AI太过智能以至失控，短期内他更担心“平庸AI”被滥用的风险，包括被罪犯或恐怖分子用来欺骗他人，或传播危险的错误信息。

研究人员此前发现，GPT-4可被诱导告知如何在网上购买非法枪支，或是描述用家庭用品制作危险品的方法等。此外，AI聊天机器人仍会产生“幻觉”，或是一本正经地胡说八道，这可能会对听信AI的人类造成伤害。

“目前的技术已带来巨大风险，而我们对此准备不足。”马库斯认为，随着技术进一步发展，情况将变得更糟。

能否被叫停？

AI大佬们的公开呼吁能否得到响应？

截至目前，OpenAI、微软和谷歌暂未置评。马库斯等人也承认，他们这些签署公开信的人很可能会发现，说服各公司和研究人员一起按下“暂停键”并不现实。

此外，一些签署公开信的人也被质疑藏有私心。

有舆论就认为，马斯克等人签署这封公开信，是在为自己的公司争取时间，也希望开发类似ChatGPT的聊天机器人。

据《福布斯》杂志网报道，2015年，马斯克曾参与OpenAI公司的创立，但在2018年离开了公司董事会并不再持有股份。近日，马斯克曾多次批评OpenAI，称该公司背离了初衷。

还有评论指出，尽管图灵奖得主本吉奥在签名者之列，但“深度学习三巨头”中，杨立昆（Yann LeCun）对公开信的一些观点并不认同，杰弗里·辛顿（Geoffrey Hinton）也并未公开表态。

《纽约时报》则指出，不仅很难说服业内人士同意暂停研究，政府迅速采取行动的可能性也很小。

29日，英国政府公布了关于建立AI监管框架的提议，但称将“避免可能扼杀创新的严厉立法”。美国加利福尼亚州众议员杰伊·奥伯诺特(Jay Obernolte)此前也表示，美国政客对AI相关技术并不太了解。

（编辑邮箱：ylq@jfdaily.com）