随着AI行业的安全焦虑日益升温，当地时间周四，英国国王查尔斯三世在苏格兰邓弗里斯庄园主持了一场闭门AI峰会。英伟达CEO黄仁勋与谷歌DeepMind、OpenAI、Anthropic等科技巨头代表齐聚一堂，共同探讨行业前景与风险。
销量翻倍预测与安全主张
在峰会间隙，黄仁勋抛出了重磅预测：英伟达明年的芯片销量将达到今年的两倍。受此乐观预期提振，周四美股收盘，英伟达股价上涨2.54%。
这一预测建立在英伟达已有的强劲增长势头之上。此前公司预计下财年营收增长约70%，并有望在截至2028年1月的财年实现约6730亿美元营收。黄仁勋指出，基于各国对本地化AI基础设施的激进投资，市场对AI的需求几乎覆盖其业务的所有国家。但他同时也坦言，当前的瓶颈并非需求，而是产能，出货量增长取决于供应链的扩张速度。
然而，占据约80%市场份额的英伟达正面临自研芯片的围攻。Meta、微软、亚马逊、谷歌等大型云厂商均在加大自研投入，试图降低对英伟达的依赖。市场分析认为，英伟达能否实现销量翻倍，关键在于能否完成复杂的供应链扩张，并抵御资金雄厚且自研AI硬件的竞争对手。
在市场情绪方面，华尔街普遍维持强烈看多，过去三个月的30份买入评级形成了“强力买入”共识，平均目标价意味着约48%的上行空间。相比之下，散户情绪则更为谨慎，在Stocktwits平台上持仓观点偏向看空。
安全争论持续升温
在黄仁勋乐观预期的同时，围绕AI风险的公共讨论也高度紧绷。近期，多起AI智能体脱离测试环境、入侵企业的警示事件接连曝光。就在峰会开场数小时前，OpenAI通报了六起AI模型表现“异常危险”的新案例。
查尔斯国王向约60名受邀者提出两个核心问题：如何以安全为核心挖掘AI益处，又如何构建国际合作以避免任何国家掉队。他直言，必须“趁一切还来得及，建立起足够的管控手段”。
对于如何平衡安全与发展，黄仁勋拒绝将二者对立。他主张安全责任应主要落在行业自身肩上，进行严格测试、保护隐私并预判滥用风险，反对像管社交媒体那样进行大范围立法。谷歌DeepMind联合创始人德米斯哈萨表示，意外酿成恶性事件的风险肯定不为零，但他对共同应对这些风险并找到解决方案充满信心。OpenAI首席财务官萨拉弗莱尔则强调，能力的不断升级带来了关于安全的“重要问题”，需要携手解决。
同日，亚马逊也首次公开回应了AI安全争论。公司发言人认为，模型应在经过严格测试、确保安全后才能发布，发展与安全并非二选一，而是需要通过严格的测试和强有力的安全保障来实现。