黄仁勋才刚与美国总统用电话连线，这回面见英王查尔斯三世！身为辉达（Nvidia）执行长的黄仁勋受邀前往苏格兰，出席英王查尔斯三世亲自召集的人工智能（AI）峰会。面对查尔斯当着一众科技巨头示警，AI若落入错误的人手中，甚至可能发展出“夺走生命”的黑暗能力，黄仁勋也当场回应，安全必须摆在第一位，如果产品还不够安全，就不该急着推出，而是“继续研发”。

英王查尔斯三世（左）召开人工智能峰会，辉达执行长黄仁勋受邀出席。路透这场峰会在苏格兰艾尔郡（Ayrshire）的邓弗里斯宫（Dumfries House）举行，除了黄仁勋，与会者还包括英国AI部长纳拉扬（Kanishka Narayan）、教宗顾问，以及OpenAI、Anthropic等AI巨头代表，讨论如何让快速发展的AI真正造福社会。

查尔斯面对这群站在AI最前线的科技人士，直接点出他最担心的问题。

“创造这些科技的人，如今愈来愈频繁地警告，AI可能发展出更加黑暗的能力——甚至可能夺走生命。”

他警告，AI一旦落入“错误的人手中”，可能以灾难性的方式遭到利用，因此现在已到了必须正视其“生存级危险”（existential dangers）的时刻。

查尔斯说：“你们眼前的任务不只是推进科技，而是确保科技始终坚定地服务于人类、社群与自然世界。”

黄仁勋：安全至关重要

坐在台下的黄仁勋正是目前AI浪潮最具代表性的人物之一。辉达为OpenAI、Meta等AI开发商提供关键芯片，目前市值约5.15兆美元，在AI基础建设领域扮演核心角色。

面对英王的警告，黄仁勋表示，安全“至关重要”（paramount）。如果一项产品还没有达到足够安全的程度，企业就应该先踩煞车，暂缓推出并“继续研发（keep engineering）”。

不过黄仁勋并没有因此主张放慢AI普及脚步，反而强调“开放模型”的重要性。他认为，AI不能只掌握在少数大型企业或国家手中，应该让研究人员、大学、新创公司及不同国家都有机会参与，避免有人被这波科技革命抛在后面。

黄仁勋说：“让我们以负责任的乐观态度带头前进，安全且可靠地打造AI，让更多人可以使用它，扩大我们的企图心，解决真正攸关世界的问题。”

同场出席的Google DeepMind共同创办人哈萨比斯爵士（Sir Demis Hassabis），态度则比黄仁勋更加谨慎。他认为，能力在多项任务上达到甚至超越人类的人工通用智慧（AGI），可能“只剩短短几年”就会出现，带来的影响甚至可能达到“工业革命的10倍”。

至于AI出问题的机率，他直言“绝对不是零”，但仍主张寻找一条“理性的中间道路”，只要人类还有足够时间建立安全措施，未必无法控制风险。