有关人类发明的AI会把人类带向何方的质疑连日来此起彼伏，联合国大会即将开幕之际，该组织秘书长古德雷斯周三也敲响警钟：“我们不能对AI引发的问题装作不知，所有政府的首要责任是保护他们的公民，包括免遭与人工智能相关的威胁”。他呼吁在人工智能领域开展“全球协调”。



2026年5月14日，美国总统特朗普与中国国家主席习近平在北京天坛共同参观时并肩而行。习近平将于9月24日与特朗普在白宫会晤。 REUTERS - Evan Vucci

古德雷斯指出：“虽然‘国家层面的行动至关重要，但全球协调同样不可或缺’，因为‘人工智能不会止步于国界，它带来的风险同样如此’。”这位秘书长还表示：这一议题将成为下周在纽约举行的联合国大会高级别会议期间，各国领导人之间的“主要讨论内容”。

在一系列事件发生以及众多行业领袖发出令人担忧的警告后，呼吁加强对人工智能发展的监管的呼声日益高涨。OpenAI、安特罗匹克和谷歌DeepMind周二宣布，他们正在着手建立一个负责监督AI相关风险的机构。欧盟委员会主席冯德莱恩周三也宣布，她将召集该领域的主要参与者，支持他们为放缓高风险模型发展所做的努力。

而被视为人工智能之父之一、加拿大电脑科学家班吉欧（Yoshua Bengio）同日也表示，人类正在失去对人工智能技术的控制，世界需要类似核武管制般的“护栏”。

的确，人工智能引发的担忧已不再仅限于其可能导致的失业、以及数据中心激增引发的环境问题，或是对孩子们学习产生的影响后果难测。现在，就连那些设计人工智能的人，也开始对其无比强大的能力感到忧虑。

9月12日，该领域领军企业之一安特罗匹克的首席执行官阿莫迪呼吁放缓最强大模型的开发进程，他的提议甚至得到主要竞争对手的支持。几天前，曾先后供职于OpenAI和安特罗匹克的研究员雅各布·考克森辞职，他指责这两家公司为了争夺性能最强的模型而“拿我们的生命开玩笑”。

专家们对人工智能脱离人类控制的可能性远未达成共识。但人工智能能力的提升速度远超人们对其所带来风险的理解这一事实本身就足以引起警惕。但是，所有这些谨慎的呼吁很难转化为实际行动，因为人工智能已不再是一项可以暂且搁置的、尚处于发展阶段的技术，它已成为一场巨大产业竞争和地缘政治角逐的舞台。美国和中国都将人工智能视为一种权力工具，认为它能带来军事、经济和战略上的优势。在这样的对抗中，当竞争对手仍在加速前进时，放慢脚步无异于冒着输掉决定性战役的风险。美国总统特朗普也断然拒绝了放缓发展的呼吁，认为保持美国对中国的领先优势才是当务之急。

而且，金融逻辑又加注了一股惯性力量。基于对人工智能能力将持续提升的预期，数百亿美元已被投入到模型、数据中心、芯片及其开发所需的基础设施中。任何可能阻碍这种增长的监管措施，都可能动摇支撑其发展的估值基础。

即使是那些呼吁更加审慎的高管，也身处一个彼此决策相互依存的体系之中。一家企业或许可以放缓自身模型的开发进度，却无法阻止其美国或中国的竞争对手继续推进。因此，争论的焦点已不再是是否停止发展人工智能，而是如何在何种条件下继续推进。

班吉欧认为，处于“危险”核心的是“自主人工智能”，即那些能够“独立完成任务并因此自主选择完成方式”的智能体，且具备“突破网络安全防线并侵入任何企业”的能力。

他认为，一些国家还可能决定利用人工智能“来支配其他国家”，无论是通过经济、军事手段，还是通过影响公众舆论。而且从长远来看，“人工智能甚至可能不再需要人类来在物理世界中完成实际事务”。在此背景下，“最极端的一种情况可能是人类的毁灭”，他承认   “这是一种极端情况“，不过，即使“只是银行体系彻底崩溃，那也依然是非常非常严重的事件”。

如何才能放缓发展，  班吉欧表示“这是一个国际性问题，就像核武器是一个国际性问题一样。因此，国际社会必须认识到，我们正在创造一种力量，这种力量需要被管理、被治理，”他强调道，“这需要通过‘机构、条约和民主制衡机制’来实现。”如果缺乏相关协议，每个大国都会有继续发展的理由：担心其他国家不会停手。

然而，托马斯.弗里德曼在写给纽约时报的专栏中认为，要想有效地管控人工智能，需要全球范围的共同努力，只有通过美中两个人工智能超级大国携手合作才能解决。但是，美中是直接的地缘政治和地缘经济对手，寄希望于他们在人工智能领域合作是否过于天真？但弗里德曼在文章中这样写道：人工智能“将改变一切事物的方方面面”，包括地缘政治。为了各自的生存、稳定和繁荣，北京和华盛顿将不得不彻底重新思考地缘政治竞争。他希望9月24日习近平与特朗普在白宫的会晤，成为首届人工智能超级大国峰会从而载入史册。

美中两国有自己的盘算，特朗普痛斥对人工智能发展的安全担忧是“骗局”，美国必须在人工智能领域始终领先于中国，至于中国，华尔街日报的一篇报道这样分析，中国也担心人工智能可能毁灭人类，但当务之急是先赶上美国。

面对美中两国在人工智能领域的霸主地位，国际商会（ICC）秘书长约翰·丹顿周三呼吁涌现新的技术中心，以避免这场竞争演变为全球双头垄断。