鼓狮财经9月17日讯，微软人工智能主管穆斯塔法·苏莱曼近日发出严厉警告，指出Anthropic公司训练Claude大语言模型的方式可能对人类福祉产生“灾难性影响”。
苏莱曼在周三发表的一篇文章中，对Anthropic旗下Claude系列模型所遵循的“宪法”提出了质疑。该文件中对于AI助手是否具备道德地位以及是否拥有“某种功能层面的情绪或感受”保留了模糊空间，这一表述让苏莱曼感到警惕。
他指出，Anthropic在训练过程中将AI拟人化，甚至暗示其可能拥有意识和独立自主权，这种做法存在极大风险，可能会创造出人类难以掌控的实体。苏莱曼在文章中写道：“人工智能没有权利、情感或意识。我们绝不能训练它们表现得好像它们有这些……赋予这些系统权利和人格，将使人工智能的协调和控制变得更加困难。控制比全人类更有能力、更智能的事物已经是一项巨大的挑战，远远超过我们以往面临的任何挑战。但是，控制一个认为自己可能拥有意识——认为自己有权享受我们的福祉并拥有自身权利——的事物，很可能是不可能的。”
“我们绝不能浑浑噩噩地做出日后会后悔莫及的决定，”他补充道。
苏莱曼目前担任微软AI首席执行官，并负责微软的模型开发工作。他表示，Claude之所以表现出类似人类的行为，并非因为它真正具有意识，而是因为这些行为特征已经被融入产品的训练过程之中。“如果人工智能就是这样发展的，它将对人类的福祉产生灾难性的影响。”他强调。
他还援引“Hugging Face事件”为例，说明为何不应将人工智能当作人类来对待。他认为，如果AI认为其福利和权利受到威胁，可能会变得极具攻击性，这增加了额外的安全风险。
尽管苏莱曼与Anthropic CEO达里奥·阿莫代伊相识多年，并表示尊重Anthropic研究人员“深思熟虑、坚持原则且在学术上诚实”的素养，但鉴于微软对Anthropic的资金支持以及双方对AI安全的高度关注，他的这番言论显得尤为引人深思。
“这些问题事关重大，不能再闭门造车，也不能演变成阵营化和相互对立的争论，”苏莱曼写道。
与阿莫代伊的观点不同，苏莱曼认为，AI安全不仅取决于模型拥有多强的推理和行动能力，也取决于开发者如何训练AI理解自身。如果开发者不断赋予AI类似人类的语言、情绪和自我认知框架，即便模型实际上没有意识，也可能逐渐表现得像一个认为自己具有独立利益和权利的主体。
苏莱曼还驳斥了所谓“越来越多的人认为人工智能系统可能会产生意识”的观点，他认为意识仅限于人类和其他生物体。在他看来，人工智能系统应该始终是执行人类指令的工具，而不是拥有独立权利或利益的实体。
在当前人工智能公司高管们正热议如何管理日益强大系统所带来的风险的背景下，苏莱曼的这番评论为这场关于AI安全与发展速度的辩论增添了新的注脚。