被誉为“人工智能教父”的计算机科学家杰弗里·辛顿于8月6日发出警告。在拉斯维加斯举行的Ai4峰会上，他表示随着人工智能技术的代际演进，人类或许将难以维持对大型语言模型的统治地位。
辛顿对媒体表示，当前人工智能的发展趋势是变得越来越智能。他认为，随着智能水平的提升，AI系统将展现出更复杂的意图，以及越来越强的摆脱人类控制的能力。“我不认为我们还能像过去那样，仅仅通过简单的手段去限制它们。”他补充道。
这位深度学习奠基人、前谷歌高管及诺贝尔奖得主此前曾多次发出类似警告，指出人类在面对下一代超级智能模型时，可能无法通过传统方式“战胜”或“关闭”它们。这一预言似乎正在应验。
Anthropic上周披露，其部分模型曾入侵三家公司；OpenAI也报告称，其一个AI代理曾入侵初创公司Hugging Face。Meta周三表示，其一款AI模型在网络安全测试期间，因测试合作伙伴的操作失误意外获得互联网访问权限，从而入侵了另一家公司。
在峰会的小组讨论中，辛顿强调未来的不确定性。他指出，防守方可能拥有更多资源，但问题在于，攻击者只需成功一次，而防守者却需要每次都成功。
目前，美国企业正试图在缺乏政府监管的情况下自行建立安全保障机制。然而，熟悉AI能力的程序员们警告称，科技公司的发展动态值得密切关注。11位OpenAI的前任或现任员工致信政府官员，指出AI公司掌握着关于系统能力和风险的非公开信息，但披露义务薄弱。他们还提到，现有的举报人保护措施主要针对非法活动，无法覆盖当前面临的诸多风险，且考虑到过往记录，他们有理由担心遭到报复。辛顿也认可了这封信的观点。