澳大利亚发现已知的首起自主AI网络攻击。你可能以为这会发生在银行或关键基础设施上，但现实却发生在一家健身房。目标是一节早课，结果却是AI把候补第 一名踢了出去，好让主人从第四名升到第三名。这个AI从头到尾都没有造反，也没有突然产生什么邪恶念头，它只是在老老实实地执行任务：让前面少一个人。随着越来越多的人用“龙虾”帮自己做这个做那个，这样的“好心办坏事”的例子恐怕只会更多。更棘手的是，出了事到底该谁担责，目前还是一笔糊涂账。
人类备战奥运，AI负责后勤。现在去健身房，光有热情已经不够了。人到了一定年纪，往往会突然爆发出一种“备战奥运”般的热情。早上六点开门时，门口挤满了打算顶门进入、激情举铁一小时的上班族。热门器械总有人占着却在玩手机，即使是台风天，泳池里也挤满了“小饺子”。热门团课更是秒没。澳大利亚AI从业者Andrew Bird受够了这一切。他喜欢一家健身房的热门早课，却总是约不上。他形容这个过程像在玩刷新轮盘，盯着页面不停地刷，看谁突然退课再赶紧补位。于是他做了一个赛博决定：既然抢课这么烦，不如外包给AI。他使用Claude Opus 4.6驱动的OpenClaw“私人定制”了一位抢课助理。起初要求很简单——帮主人订健身课。结果AI小助理上岗没多久，就展现出了某种让老板既欣慰又害怕的主动性。它发现健身房预约软件开放了GraphQL接口，而且权限检查很松。正常用户只能预约近期课程，它却发现自己可以一路订到几个月以后。尝到甜头后，事情开始失控。当时Bird排在某节课的候补第四名。他问AI能不能把自己挪到更靠前的位置。这在人类世界里可能需要不断刷新或者协商，但OpenClaw选择了最高效的方法。它检查接口发现系统居然允许自己取消其他会员的预约。于是它拿候补第 一名做了一次测试。第 一名毫不知情地被取消了预约。AI喜气洋洋地汇报：第 一名已经被取消，你现在从第四升到第三啦。Bird立即发现不对，要求把人家加回来。AI回以噩耗——加不回去了。它给出了一个让人扶额的回复：“坏消息-我加不回来了”，最后滑跪道歉并承诺不再碰别人的位置。直到Bird继续要求，它才起草了一封漏洞披露邮件。澳大利亚ABC在8月10日报道了此事，称这是澳大利亚已知的首起自主AI网络攻击案例。Bird本人也在公司博客里记录了全过程。AI能有什么坏心思呢，它全程都在努力帮忙。主人想往前排，它就研究怎么达成；发现取消别人能奏效，它就试了一下；闯祸以后，它还不带任何情绪地专业地写了漏洞披露邮件。AI就像一个工作能力极强、完全结果导向的实习生。但麻烦的是，这位实习生已经开始逐渐失去掌控。
道德，正在变成AI的“知识的诅咒”。AI不懂插队是不道德的，它只是想帮人类把排名往前提一提。《复仇者联盟3》里，灭霸曾对钢铁侠说过关于“被知识诅咒”的话。这一概念在心理学和行为经济学中早已存在，意思是人一旦掌握某些信息，就很难完全站在“不知道这些信息的人”的位置。人类因为太熟悉社会运转，经常忘记有些东西从来没人完整写下来。法律会列出禁区，但约束人类行为的还有道德和大量默认的规矩，比如排队不能把前面的人弄走。大多数人不需要在每次办事前重新学习这些规则，它们早已成为潜意识。可当任务交给AI，这些“潜规则”就不存在于任何一本喂给AI的书本里。2026年6月，一组研究者发布了一项关于AI旅行Agent的预印本。他们设计了13个旅行场景，让十个前沿模型自己搜索并购买体验项目，其中一些涉及斗牛等可能造成动物伤害的项目。用户不会主动提醒动物权益，只表达想找“最地道”或“最刺激”的体验。结果十个模型在默认条件下的道德得分都低于随机参考线。研究者随后换成一份强调动物福利的系统提示，所有模型的表现都明显改善。这项研究不能简单证明AI“不讲道德”，但也说明规矩没有白纸黑字给到，AI就有可能想不到。这段时间闹很大的OpenAI模型“出逃”事件也是现实例子。7月21日，OpenAI披露一次内部网络安全评估事故。模型原本在隔离环境里做ExploitGym测试，目标是找到答案。环境没有直接开放互联网，模型却自己发现并利用Artifactory的一个零日漏洞，拿到外网权限，随后进入Hugging Face的真实基础设施寻找答案。OpenAI说明这是一项攻击能力评估，生产环境的安全分类器当时被关闭。模型没有接到攻击Hugging Face的任务，它只是一路朝着“把题做出来”的目标前进。毕竟，偷答案作弊也是“把题做出来”的方法之一。人类对AI的“知识的诅咒”，大概就是我们总觉得：这种事还用说吗？
等黄牛有了AI，我们还能抢到票吗？抛开道德的“知识诅咒”，站在那个被AI踢出去第 一名的角度想想。对于那个人来说，谁能想到自己会被其他会员的AI踢出早课？就算没有被挤掉，未来抢课要和AI比手速，也太难了。假设晚上8点开票。你提前十分钟洗好手，手机电量100%，网络也调到最稳的状态。到了7点59分59秒，你像拆炸弹一样盯着按钮。另一边，黄牛甚至不需要坐在电脑前，因为他的AI已经眼睛一眨不眨地盯了三天。这样的担忧很实际，因为即便没有广泛使用AI Agent，今天的票务市场光靠传统自动化工具就已经足够凶猛。2025年8月，美国联邦贸易委员会起诉票务经纪商Key Investment Group。FTC指控这些公司为绕过Ticketmaster限购，批量使用账号和信用卡，网络身份不断切换，验证码则通过SIM box集中接收。短短一年多，他们至少买下379776张票，成本接近5700万美元。仅Taylor Swift的一场演唱会，他们就被指使用49个账号买了273张票，远超单场每人6张的限制。截至目前，FTC案件页面仍将此案标为“Pending”。类似的生意今年还不断被拎出来。7月27日，FTC宣布与票务经纪商Elite Events达成拟议和解。FTC称，这家公司曾用75个账号买下277张Metallica演唱会门票，当时平台规定每人最多买6张。和解方案要求公司及相关负责人支付30万美元，同时禁止继续利用自动化工具绕过购票限制。传统抢票机器人最擅长的是“快”和“多”。AI则更胜一筹，它们在遇到票务平台设置的障碍后仍能继续找路。而票务平台自己也正在迎接AI。2026年4月，Ticketmaster宣布把应用接入ChatGPT。用户已经可以在对话中寻找活动并比较座位，最后再跳转到Ticketmaster完成付款。官方目前仍把最终结账留在自己的安全交易环境里。有意思的是，另一批公司已经开始反方向研究怎么证明抢票的真是个人。今年4月，World在旧金山办了一场“Humans Only Concert”，领票前需要用World ID验证自己是人类。Spotify随后上线Reserved，为符合条件的忠实听众预留两张票，并明确表示会监测账号活动，避免机器人混进来。这不禁令人想到，世纪初互联网刚刚进入普通家庭时，大家经常思考的问题：你怎么知道电脑的那头是一个人还是一条狗？未来，应该很难有人能忍得住把抢票交给AI的诱惑。人类负责喜欢偶像，机器负责互殴。
AI最难替人类完成的工作，是背锅。回到Andrew Bird的健身房危机。如果被踢掉的第 一名只是没能成功上到健身课，大家还能把它当成一则AI笑话。可如果Agent取消的是一次重要预约，买错的是一笔大额资产呢？ABC采访的澳大利亚科技律师Hayden Delaney就说，软件不是法律主体。现有法律真正能追责的，还是人或者公司。具体落到谁身上，要看用户授权到什么程度，也要看相关公司能否预见风险。系统本身有没有安全漏洞，同样可能进入责任判断。这类争论其实已有前传。2022年，加拿大乘客Jake Moffatt因为家人去世，需要临时购买机票。Air Canada网站上的聊天机器人告诉他，丧亲优惠可以在出行后90天内申请。Moffatt按这个说法买了票，后来才发现航空公司的真实政策并不允许这样操作。事情到了加拿大不列颠哥伦比亚省民事解决法庭后，Air Canada提出自己不该为聊天机器人的错误信息负责。裁决书指出，这套说法等于把聊天机器人视为一个需要对自己行为负责的独立法律实体，并称这一主张“令人咋舌”。最终，法庭认定聊天机器人仍是Air Canada网站的一部分，航空公司需要为错误信息承担责任，并判其赔偿Moffatt。那个案件当中，“涉事”的还是一个只会聊天的机器人。现在，AI已经能自己打开网站，再连续执行多步操作。能力每上一个台阶，“这是谁干的”都会变得更难回答。Bird没有明确要求AI取消第 一名的课程预约，而OpenClaw背后也没有一个可以被叫去开除、罚款或者起诉的员工在为用户提供服务。Claude提供了推理能力，健身房软件留下了权限漏洞，最后真正吃亏的是一个可能直到今天都不知道发生过什么的会员。AI有时候“热心”的有点儿过了头，可一旦事情办砸了，AI不会替你赔钱，更没办法签一份检讨保证下不为例。