鼓狮财经9月16日讯，知名科技投资人比尔·格利周三公开批评了Anthropic首席执行官达里奥·阿莫代伊关于人工智能监管的设想。此前，阿莫代伊在社交媒体X上发文，呼吁减缓前沿AI模型能力的提升速度，以便安全措施能跟得上。他建议由独立的第三方评估团队获得类似企业员工的访问权限，以核查AI企业的安全实践、报告事故并评估模型及训练流程。
阿莫代伊的表态获得了OpenAI首席执行官萨姆·奥尔特曼和埃隆·马斯克的支持，同时也进一步引发了关于AI安全及“末日论”的广泛讨论。
格利在周三的回应中表示：“我不喜欢监管，原因有两点：首先，监管很难设计正确；其次，监管极易遭到‘监管俘获’。不过，如果我们非要监管，至少应该努力把机制设计好。”所谓“监管俘获”，是指监管机构本应代表公共利益，却逐渐被被监管企业或行业过度影响，最终在政策、执法或标准制定上倾向于维护行业利益而非公众利益。
作为硅谷知名投资人，格利曾在Benchmark任职，其知名投资案例包括2011年投资Uber的1100万美元，以及推特（现更名为X）和Nextdoor。针对当前关于AI安全的监管讨论，格利引用了波音737 MAX空难和福岛核事故作为例证。他写道：“既然‘安全’是首要目标，我想分享一点看法。我最近研究了波音737 MAX空难和福岛核事故，调查结果都指向同一个核心失灵因素：‘监管俘获’。具体表现为波音与美国联邦航空管理局（FAA）之间的关系，以及东京电力公司与日本原子能安全保安院（NISA）之间的纠葛。”
值得注意的是，日本原子能安全保安院曾是日本的核安全监管机构，但在2012年福岛核事故后，监管体系重组时已被撤销。
格利进一步阐述：“因此，如果安全是第一目标，监管者必须是一个拥有权力、承担责任且凌驾于被监管企业之上的主体。认为监管者可以是一个与企业关系友好、联系紧密的第三方，这种想法在结构上就是有缺陷的。这个问题或许可以去问问黑川清。”
黑川清曾领导日本国会福岛核事故独立调查委员会，他将监管俘获视为事故的重要制度性原因。
围绕AI安全的新一轮争论已十分激烈：为了控制风险，是否需要限制AI技术的发展，哪怕这会损害科技产业链的利润？同时，这场争论也加剧了外界对于AI是否可能威胁人类生存的担忧。
Okta联合创始人兼首席执行官Todd McKinnon对此表示，有关AI的悲观预测虽非毫无道理，但属于极端情况。他说：“如果要开一个赌盘，押注人类最终会因为什么原因灭绝，我甚至不确定AI能不能排进前50名。不过，AI确实能制造头条，人们对此非常兴奋。”
“但现实是，和所有新技术一样，AI既存在风险，也存在带来积极结果的机会。我们需要做的是在两者之间取得平衡，并继续向前发展，”他补充道。