联合国秘书长古特雷斯于当地时间周三发出警告，指出快速迭代的人工智能正带来不容忽视的风险，全球必须警惕在AI安全领域陷入“逐底竞争”。这一立场与美国总统特朗普此前认为现有监管已足够形成了鲜明对比。
在下周纽约联合国大会召开前夕，古特雷斯透露，加强AI监管将成为他与各国领导人会晤时的核心议题之一。
他在发布会上强调，面对全球性威胁，必须正视AI快速发展引发的焦虑。虽然AI拥有巨大潜力，能够加速可持续发展、提升教育效率、完善卫生体系并增强气候韧性，但其发展速度已超出人类对其潜在风险的理解。
古特雷斯敦促各国政府重视开发者的警告，因为保护本国公民免受AI威胁是政府首要职责。他呼吁各国不要忽视业界人士，尤其是身处一线开发者的担忧。随着公众对AI风险的关注度上升，警告声也愈发强烈。Anthropic研究员Jacob Coxon近期辞职，直言开发者群体中存在一种普遍恐惧：AI可能在十年内对人类构成生存威胁。同时，多家科技巨头的高管也开始呼吁放慢研发步伐。
针对业界担忧，特朗普周一回应称，美国已建立相应的监管“护栏”，能够对AI公司进行追责，因此无需过度担忧。
长期以来，古特雷斯致力于推动全球AI治理机制。2023年，联合国成立了由39名成员组成的高级别咨询机构，汇聚了各国政府官员、学者及科技巨头高管，旨在共同探讨AI治理。
据多名外交官透露，下周联合国大会期间，安理会极有可能再次就AI议题召开会议，这将是继2023年后的第二次。
古特雷斯指出，掌握AI核心技术的国家应建立沟通机制和共同的安全标准，防止出现通过降低标准来换取竞争优势的恶性竞争，避免这种竞争最终导致全球性灾难。
最后，他呼吁国际社会形成共识：在确保AI安全、可靠且负责任发展的同时，必须明确随着技术能力增强，何时需要升级安全护栏或采取额外防范措施。