AI仅用五年时间，便追平了全球人类的生产速度。从2020年1月开始，网络研究公司Graphite为了追踪互联网上AI生产的内容，抽样调查了54400个URL，并使用三种AI鉴定工具进行检测。如果一篇文章中真人写的内容低于50%，即被判定为AI生成。Graphite发现，在2025年第四季度，互联网上的AI生成内容超过了人类原创的数量，比例达到了50.9%，而这一数字在2020年1月时仅为0.97%。准确地说，AI只用了三年，因为拐点出现在2022年11月OpenAI发布ChatGPT之时。从几乎为零到占据半壁江山，AI的高产程度直追美洲大蠊，甚至开始挤占人类的创作空间。一些衍生产业也借着产能的爆发顺势大发AI财，比如为AI建设数据中心的基建商、替服务器散热的能源公司，以及AI鉴定工具。毕竟AI打得越火热，市场对分辨真伪的需求就越强烈。
然而，拉长时间线来看，这门生意未必长久。一个直观的信号是，这场防守战的难度正在指数级上升。目前市场上的AI检测工具主要针对AI文本，但随着Deepfake视频、AI图片和AI音频大量涌入互联网，检测范围已扩展到整个数字世界，去判断还有多少真实信息。这意味着一个令人不安的现实：AI制造的假货正在泛滥。
如果你已经大学毕业，似乎AI泛滥对生活的伤害微乎其微，无非是地铁广告上多了些AI水印，手机里多了些人机味的文章，但在遭遇“杀猪盘”之前，岁月依旧静好。但问题是，诈骗分子学习AI的积极性，不输给大厂最卷的员工。Deepfake技术已经能生成极其逼真的图像、声音或视频，即便是面对面视频通话也能实时换脸。这项原本用于影像制作和虚拟主播的技术，在骗子手中成了跨国网络诈骗和虚假信息传播的利器。2024年，香港一家跨国公司职员收到一封钓鱼邮件，对方自称是英国总部CFO，将其拉入多人会议。会上，那位“CFO”和“同事”的脸都是骗子利用公开视频和音频资料，通过Deepfake技术生成的。在要求下，该职员最终将2亿港元转入骗子账户。首席安全官智库CSO统计显示，2025年，82.6%的钓鱼邮件使用了AI技术，Deepfake驱动的欺诈攻击激增2137%，AI驱动的网络攻击在全球造成的损失预计高达300亿美元。比起AI文本泛滥带来的资讯爆炸，老百姓更需要提防的是吃到AI技术红利的骗子。
不只是个人，企业也深受其害。今年夏天，湖南衡山县的村民发现，无论在哪个电商平台下单榴莲或车厘子，只要收货地址填的是衡山县，就会被退单。背后的原因是衡山县的谭某疯狂购买水果，收到货后用AI给水果一键生成腐烂发霉的痕迹，把照片发给平台客服申请退款，再把水果挂到闲鱼转卖。就这样下单了100多笔后，谭某和整个衡山县都被电商平台拉进了黑名单。技术快速迭代的同时也在被滥用，AI公司把昂贵的算力打包成廉价的Token，降低了伪造和诈骗的门槛，成了学术不端、金融诈骗、电商骗赔的温床。
以前大家担心AI能不能创造足够好的内容，现在又开始担心眼前看到的内容还能不能相信。科技便利的暗面，是普遍蔓延的信任危机。用AI鉴定AI，正是在这种信任危机中诞生的新产业。表面上，AI鉴定工具在判断图文或视频是不是AI生成，真正解决的，其实是帮企业组织和个人降低因为AI造假带来的风险。
AI文本检测工具是率先吃饱的，瞄准教育市场，这也是当前现金流最稳的To C检测生意。人不会永远年轻，但永远有年轻的大学生在生产毕业论文。国外检测论文AI代写的平台有Turnitin、GPTZero等，国内的知网、维普网等系统也都上线了自己的AIGC检测服务。GPTZero成立三年，总共融资了1350万美元，年度经常性收入已经达到3000万美元（约合2.03亿元）。Turnitin的用户人数超过7100万，年收入1.05亿美元（约合7.09亿元）。国内大部分论文检测工具没有披露自己的盈利模式，但AI文本检测工具大体上都是两头赚，学生们订阅会员，或者按字收费购买查重服务；高校和教育机构则按年打包订购系统的许可授权。
更多的AI检测工具赚的是企业的钱，主要提供API接口、SaaS订阅或定制化解决方案，也是最有增长潜力的部分。客户买的是一份托底保障，而不是100%测得准。比如，君同未来旗下的AI风险评测系统，既负责检测AI幻觉，也能识别用户的恶意提问，刚成立就在天使轮获得数千万人民币的融资，不到两年已经实现盈利，服务对象包括工信部、字节跳动、海康威视、蚂蚁集团等；中慧创杰研发的“白泽AI”幻觉治理引擎，能为银行智能客服系统实时校验金融术语，给线上智慧门诊校验问诊内容，还为网信部门部署AI内容监管平台，日均处理超200万条AIGC内容，成立三年营收就从50万元跃升至4000万元。咨询机构Dataintelo的调查报告显示，2025年合成媒体检测市场规模为38亿美元（约合257亿元），预计到2034年将达到226亿美元（约合1525亿元），复合年增长率将达到21.9%。B端市场释放出的庞大需求，让AI鉴定从一项附加功能演变为通用的底层基础设施，连芯片巨头也坐不住了。
2026年7月21日，英伟达宣布推出合成视频检测器服务（Synthetic Video Detector NIM），号称可以逐帧识别AI生成的假视频，准确率最高可达92%。把芯片卖给AI公司，给企业和开发者搭建可以在线部署AI模型的微服务平台NVIDIA NIM，现在又提供AI视频检测服务，在这场AI淘金热里，英伟达可谓是既卖铲子，又卖加工机床，现在还要卖试金石。由此可见，最终掌握话语权的，往往是那些能将检测工具丝滑嵌入客户工作流程中的企业。
面向普通人的多维AI检测工具，大部分还是免费试用模式，技术实用性还需验证。比如腾讯的朱雀AI检测助手和合合信息推出的扫描全能王AI鉴伪小程序，提供检测文本、图片和视频的服务。就在上个月，国家反诈中心APP上线了AI内容鉴定功能，由中科睿鉴提供技术支持，可以上传可疑的视频、语音、图片、文本，一键检测是否存在人工智能生成痕迹，每天有10次检测机会。我把三个免费产品都试用了几轮，扫描全能王AI鉴伪小程序和朱雀AI检测助手成功辨认出了AI生成的内容，扫描全能王会谨慎地告诉我“AI可能性为76.55%,515字疑似AI生成”，国家反诈中心APP在文本和图片上都测准了，视频检测有点翻车：同一个真人拍摄的短视频，一次说是真的，一次说是AI的，看来反诈之路还是任重道远。在闲鱼，我还发现了一些用肉眼和经验鉴AI的“工具人”，手搓鉴定结果，每张图的要价低至6块钱。插画师兼设计师的朋友告诉我，这种鉴定的准确率很大程度上依赖卖家对光影、透视和结构等的掌握程度和理解力，有时候更复杂的立绘、厚涂等作品更容易看出是否有AI的痕迹，反而简单的不好分辨。和面向C端的多模态AI检测工具类似，这些服务一样有“测不准”的风险。
这是一场军备竞赛，还是一次阵痛？从企业级解决方案到巨头入场，再到为大众服务，AI鉴定似乎顺理成章地撑起了一片新蓝海。但当我真正测试时，却发现这门生意背后隐藏着一个更大的矛盾：负责寻找答案的工具，本身也在追逐一个不断变化的问题。2026年最荒诞的商业闭环已经成型——我们一边花钱买token让大模型疯狂生成内容，又不得不花钱去雇佣另一个AI来检测和清洗AI制造的幻觉垃圾。问题在于，检测工具不会给你一个100%的确定性结果，不管是文本还是图像影音，都是在找AI留下的痕迹，并告诉你在统计上有多少概率是AI生成的。所谓概率，其实就是一个大写的免责声明，结果仅供参考。所以这个行业有个天然的悖论：AI强到泛滥成灾，AI检测工具才有机会挣钱，但AI越强，工具就越容易失效。检测工具永远在追赶生成模型，就像一场无尽的军备竞赛。
幸好，越来越多人注意到了这个问题，并试图从源头上去解决。2025年3月7日，国家网信办等四部门联合发布《人工智能生成合成内容标识办法》，明确规定从2025年9月1日起，AI生成合成内容必须添加标识，欧盟的《人工智能法案》也出台了类似的标准。Google、Meta、阿里云等AI公司，都开始在生成内容时直接把人眼不可见的水印深度嵌入AI生成内容，即使被裁剪、压缩和转码，检测算法依然能识别出隐形水印。AI检测工具，其实就是AI生成模型自己。按照这个方向，AI检测有可能不是一门持久的生意，而是一次AI浪潮进入新阶段的一次阵痛。等到内容溯源技术全面普及，社会建立新的信任机制，AI检测工具的市场就会大幅萎缩。然而对于怎么打水印，怎么鉴别水印，行业还没有达成共识和制定统一的标准，AI生成内容未来会变得不需要被检测，还是无法被检测，我们其实也说不准哪一个会更快到来。