最新消息显示,以太坊联合创始人维塔利克·布特林在社交媒体上发布重要观点,指出当前简化版的”AI治理”模式存在显著安全漏洞。他警告称,当资金分配完全依赖AI系统时,恶意用户可能利用精心设计的”越狱提示”来非法骗取项目资助,这种风险对AI生态系统的健康运行构成严重威胁。
针对这一挑战,布特林提出了创新的解决方案——构建基于信息金融(info finance)的治理框架。该框架的核心是建立开放透明的模型提交市场,任何开发者都可以自由上传自己的AI模型参与竞争。同时引入人工评审团抽查机制,通过多维度评估确保模型质量。这种制度设计具有三大显著优势:首先能够实现实时模型多样性,避免单一算法垄断;其次通过内置激励机制,促使模型提交者持续优化算法;更重要的是形成外部参与者共同监督的闭环系统,能够快速发现并纠正潜在问题。
布特林强调,这种混合治理模式比传统AI治理方案更具稳健性。它不仅平衡了AI的自主决策能力与人类监督的必要性,还通过市场机制激发创新活力。该方案有望为AI领域的长期可持续发展提供重要制度保障,特别是在资金分配、算法透明度和风险控制等关键环节展现出独特优势。随着AI技术的快速演进,这种创新的治理思路或将成为行业新标杆。