北京时间8月18日，《纽约时报》报道，劣质AI垃圾内容已成泛滥之势：谷歌搜索充斥着“胶水披萨”食谱，亚马逊商品页布满虚假传记，脸书信息流里更是充斥着“虾仁耶稣”等荒诞图片。随着聊天机器人和视频生成工具的普及，这种“数字污水堆”已蔓延至各大平台，严重侵蚀了信息生态。
面对这一局面，硅谷巨头们开始着手清理。Spotify去年删除了7500万首批量上传、重复或“垃圾式”曲目，占其库容的大头；领英也宣布将AI垃圾内容列为首要关注点，并增设了举报按钮；YouTube母公司谷歌的研究人员则表示，其视频服务在六个月内清除了13万个低质量频道。
在全互联网范围内，科技公司正开展一场“生成式垃圾内容大扫除”。然而，许多平台不堪重负，因为正是它们自家的AI工具制造了这些垃圾。从即时通讯、餐厅点评到学术档案和婚恋平台，各类服务都在努力清除或淡化AI生成内容。随着公众对AI环境负担、就业冲击及心理健康影响的日益厌倦，用户的不满情绪在增加。卡内基国际和平基金会研究员艾丹·沃克指出，AI垃圾内容已成为互联网上“溃烂的伤口”，舆论风向已变，促使科技公司正视问题。
尽管生成式AI能制作逼真的图像和视频，但被清理的主要是低质量的“标题党”内容。这类内容成本低、传播快、易被遗忘，正如挤压高级定制的快时尚，或是取代优质牛排的“粉红肉泥”。欧洲研究人员警告称，若不加遏制，这种合成内容的泛滥将“挤压人类创造力，腐蚀文化价值，破坏公共话语”。
AI垃圾内容泛滥之严重，甚至被词典出版商梅里亚姆-韦伯斯特选为2025年年度词汇。法国流媒体Deezer透露，其系统每日新增曲目中近一半是AI生成的，且鲜少被用户收听；Apple Music的AI生成内容占比也超过三分之一。Instagram负责人亚当·莫塞里曾表示，追踪“真实媒体”将比追踪虚假媒体更具现实意义。然而，Meta此前推出的纯AI视频流却因充斥垃圾内容而遭到嘲讽。
讽刺的是，许多正在治理AI垃圾内容的公司，正是其AI工具的制造者。Meta在7月承诺支持欧洲公约，旨在标记AI生成内容，但同月推出的图像生成器因将公开Instagram账户作为数据源，引发用户强烈反对，最终被移除。俄亥俄大学AI专家保罗·肖夫林指出，AI垃圾内容是一把双刃剑：初期虽提升了用户参与度，但随后因充斥“漂浮物和废弃物”而变成负担，用户难以找到高质量内容。Kapwing的实验显示，YouTube向新用户推荐的短视频中，超过20%是AI垃圾内容。据悉，一个典型的AI垃圾内容频道年收入可达425万美元，该频道已被暂停参与YouTube创收计划。
YouTube CEO尼尔·莫汉将“管理AI垃圾内容”列为首要任务。谷歌研究人员转而分析上传速度、重复模板等模式，成功移除了5万个可疑账户集群。尽管如此，专家担心此举可能误伤合法创作者。YouTube回应称，其拥有多层防护机制，确保正当使用AI工具的创作者不受影响。
其他平台也在积极应对。Pinterest允许用户限制AI生成内容；TikTok测试调节AI内容可见性的功能，并已标记30亿条视频，删除了37.7万条违规视频。在X平台，近半数长文由AI生成，新任产品主管尼基塔·比尔表示平台已封禁了鼓励机器人发帖的应用程序。“美版公众号”Substack CEO克里斯·贝斯特则指出，奖励虚假内容将导致互联网向低质量方向退化，并推出了AI检测工具。Substack的检测工具虽获技术支持，却引发了作者关于误判和压力的投诉。
哥伦比亚大学研究人员卡米尔·弗朗索瓦认为，这些杂乱无章的应对策略暴露了问题的复杂性——这不仅是垃圾内容，更是信息环境的系统性挑战。她强调，AI作为创造力工具具有多面性，平台若处理不当，终将失去用户。