鼓狮财经9月8日报道，联合国人权事务高级专员沃克尔·图尔克周一发出严厉警告，指出人工智能（AI）对人类构成“生存”层面的威胁，敦促国际社会必须采取严格措施对AI进行监管。
在联合国人权理事会第63届会议上，图尔克表示，他与业内专家一样担忧先进AI系统可能危及人类存续。他强调，必须在为时已晚之前，为AI的安全保障建立坚不可摧的防线。这是图尔克自今年7月顶住压力赢得四年任期后，首次向安理会47个成员国发表讲话。他承诺将敦促AI公司降低风险，其办公室随后补充说明，这些风险具体表现为对服务、通信的干扰，以及可能破坏关键基础设施和民主机构。
联台国人权办发言人进一步举例，提到了今年7月发生的“Hugging Face事件”——当时一群OpenAI代理入侵了一个开源平台，暴露了危险的代理训练行为。这一案例表明，前沿AI能力的发展速度已超过了安全措施的跟进速度。
图尔克表示，他将在未来几天内向所有主要AI开发公司发出相关信函，包括Meta、Anthropic、OpenAI和谷歌等顶尖企业。他强调，目前仅有极少数人掌握了“几乎不受限制的AI权力”，各国及AI供应链参与者必须就遵守某些“红线”达成共识。
这一表态与此前OpenAI首席执行官萨姆·奥尔特曼等AI领域高管对风险的警告不谋而合。联合国此前于7月召开了首次全球治理会议，呼吁制定统一规则以降低风险。
OpenAI首席科学家雅库布·帕乔茨基上周日也公开警告，称“没有人准备好应对机器智能持续快速崛起所带来的后果”，并呼吁AI实验室在统一安全标准建立前自愿放缓研发，建立由第三方监督执行的“强制性安全门槛”。事实上，早在2023年5月，国际AI非营利组织“人工智能安全中心”就曾发布联名公开信，将AI灭绝人类的风险与核战争、大流行病相提并论，呼吁将其列为全球优先事项。该信获得包括OpenAI CEO萨姆·奥尔特曼、谷歌DeepMind CEO戴米斯·哈萨比斯、Anthropic CEO达里奥·阿莫代伊，以及“AI教父”杰弗里·辛顿和约书亚·本吉奥在内的400多位AI领域科学家和企业高管签署。