这两天，一则趣闻引起了我的注意。位于澳大利亚的Apate.ai公司，其名源自希腊神话中的欺诈女神。这家公司做了一件颇具戏剧性的事情：他们制造了35万个AI，而它们的主要工作，竟是专门去骗骗子。
这些AI会伪装成普通大众，老少皆有，男女皆备，口音各异，性格鲜明。无论是诈骗电话、钓鱼网站还是投资骗局，一旦发现目标，Apate就会派出AI伪装成受害者与之周旋。这些AI有一个共同特点：极度配合。骗子索要转账，它便满口答应；骗子索要网站链接，它也乖乖照做；骗子索要银行卡号，它依然言听计从。然而，就在即将转账的关键时刻，AI会突然“断片”。它会在电话那头装作老态龙钟、眼神不好，或者完全记不起密码，以此死皮赖脸地拖延时间。有的通话甚至能持续两小时以上，直到骗子崩溃。
骗子往往被这些AI拖到崩溃，对着电话破口大骂。Apate不但不恼，反而将这些骂人片段作为融资路演的素材。联合创始人曾表示，Apate大概是全球唯一一家会因用户辱骂而庆祝的公司。
这一切的起源，源于几年前的一次家庭野餐。创始人Dali Kaafar接到一个粗糙的诈骗电话，为了逗孩子开心，他决定配合演戏。这一演就是44分钟，最终全家笑翻。Kaafar突然意识到，这44分钟里骗子没空骚扰别人，或许挽救了一个独居老人的养老钱。他不禁自问：这件事能不能交给AI来做？随后，他与团队利用麦考瑞大学的网络安全研究背景，开始拆解诈骗话术。2024年，Apate应运而生。
我痛恨诈骗，因为它利用了成本结构的天然不对称。骗子可以一天拨打数百个电话，赌最后一个人上钩，即使前几百次失败也无伤大雅；而普通人一旦被骗，可能失去毕生积蓄。AI正在改变这种不对等。既然技术可以被作恶者利用，为什么不能被守护者利用？
今年8月，Apate获得815万美元种子轮融资，虽在AI浪潮中不算巨大，却令人肃然起敬。他们已拥有银行和电信运营商等付费客户。善意一旦规模化，力量便超越个人。
巧合的是，Apate走红时，国内也出现了类似现象。近期闹得沸沸扬扬的“AI小海”事件中，不法分子利用AI生成白白净净的少年形象，对中老年女性进行情感诈骗，诱导其购买高佣金商品。甚至有79岁老太太信以为真，独自买票去山西寻找“小海”，险些酿成悲剧。
曝光后，年轻人决定用AI反击。19岁大学生小舟发现朋友家人被小海骗了，于是生成了一条30秒视频。视频中，小海摇身一变成为豪宅富二代，其“父亲”劝他收手，却被小海痛斥并赶出家门。视频虽只有几十个赞，却让老人惊觉上当，停止了购买。随后，更多年轻人加入，有的让小海坐牢，有的让他数钱，形成了一场奇妙的AI对抗。
小舟说：“善良的人不应该被骗。”这句话比任何宏大宣言都有力量。这两个故事展现了AI时代的变迁：普通人如今能用技术放大善意。虽然我们常讨论模型跑分和算力，但技术背后的纯粹善意更为珍贵。我希冀的未来是：技术中立，但放大人的选择；用最先进的技术，守护人类最古老、最朴素的善良。愿善良的人，永远不必因善良而受伤害。