做内容治理的朋友大概都有同一种感觉这几年的互联网内容池突然被一种“看着字挺多、读起来没信息”的东西包围了。社区里开始统一叫它AI Slop——AI 批量生成的低质量内容垃圾。我做过内容社区、也带过质量治理团队过去一年半几乎每天都在跟AI Slop 治理实战打交道踩了不少坑也沉淀出一套相对能打的方法。这篇就把它拆开讲。这篇文章不是给“要消灭 AI”的理想主义者看的也不是给“要全面拥抱 AIGC”的激进派看的。它更偏向给内容平台运营、社区管理员、独立站长以及那些不想让自己产品被机器内容淹没的技术负责人。目标是回答三个问题AI Slop 到底脏在哪、为什么治不住、以及按什么顺序治理才不把正常内容一起误杀。1. AI Slop 到底是什么垃圾先给问题画个像1.1 最常见的四张脸很多人一听 AI Slop 就以为是“一眼假”的机翻文章实际接触多了会发现这玩意儿是个光谱从一眼假到高仿真的都有。第一类是纯 SEO 聚合垃圾。典型场景是站群程序每天自动抓取搜索词再让大模型拼出一篇“2025年XX排行榜”“XX多少钱”之类的页面。没有作者、没有真实体验、没有可靠信源唯一的目的是把人骗进来点广告。第二类是伪原创洗稿文。把别人的干货文章丢给模型“改一遍措辞”然后重新发布。这类内容单篇看甚至通顺但信息熵极低——原稿说三句话讲完的观点被扩写成三段车轱辘话把老内容稀释得没有任何增量。第三类是评论区与问答区的水军式 AI 回复。比如一句“感谢分享学习了”在社区里批量出现或者问答平台上一长段“作为AI语言模型……”式的空话。单个看无害量大了以后真正想讨论问题的人会觉得自己在一间回音室里。第四类比较隐蔽是低成本批量制作的“有图没真相”内容。AI 直接生成配图再加一段故弄玄虚的文字配图里的手指数量、字体边缘、透视关系全是破绽但架不住出货量巨大。1.2 它和传统垃圾内容不是一回事以前内容平台也在跟垃圾内容打仗不过主要打的是重复、抄袭、伪原创、低俗引流。AI Slop 最大的不同在于它的语义是完整的语法是通顺的如果只看单句质量人类写手未必写得比它好。这就带来了一个核心矛盾传统质量检测看“句子通不通”而 AI Slop 检测要看“整篇有没有信息增量”。后者比前者难得多。它要求系统具备一定程度的语义理解能力而不只是抓敏感词、查重复率。还有一点传统垃圾内容的制造者是有真实成本压力的写手要付工资、洗稿要花时间。但 AI 生成文本的边际成本几乎是零一个脚本一天能产几千篇。所以 AI Slop 治理的第一性原理不是“怎么检测单篇内容”而是怎么对冲掉规模效应——你的检测系统如果只能拦掉 95%剩下的 5% 乘以海量基数绝对量依然能淹没正常内容生态。这一点后面会反复提到。2. 为什么 2023 年之后内容突然“烂”得这么快2.1 产量经济把内容竞争从质量拉回了数量AI 生成内容滥用的底层逻辑是经济模型变了。以前做内容农场收益等于“单篇内容收益 × 产量 - 人工生产成本”。人工成本压不下去所以生产方还讲基本法至少不会一天产几千篇。现在不一样了用大模型 API 批量生成或者本地部署开源模型跑批处理三千篇内容和三篇内容的边际成本差距非常小。只要平台无法立刻识别生产方就愿意铺量。哪怕十篇里只有一篇能通过审核带来搜索流量ROI 也比人工写十篇高得多。这就导致一个奇怪的现象真正认真做内容的作者发现自己辛苦一周写出来的东西很快被几十篇同主题的 AI 改写版包围用户根本分不清谁是原作。劣币驱逐良币的过程其实不是某一个 AI 工具的问题而是整个生态的供给端产能无限放大后需求端注意力没有成比例放大。2.2 搜索与推荐系统的参照系被污染了很多系统在判断内容质量时会参考历史点击、阅读时长、外链数据。这套机制有几个前提内容来源足够多样、用户点进去之后真的消费内容、传播链路是“人推荐给人”。AI Slop 直接把这三个前提打碎了。机器可以通过批量注册、互点、做搜索留痕来操纵初始信号内容页还能靠“正文足够长、段落足够多”拖住用户停留时间。推荐和搜索系统一旦把这些垃圾页当成高价值结果就会进一步给它们加权形成恶性循环。我见过一个挺典型的数据某资讯类小程序调整排序算法后AI 改写类文章的平均阅读完成率其实只有正常文章的 60%但因为量大且停留时长做假很容易它们依然能挤进头部位置。系统层面尝到了甜头人力审核层面看到的又只是零散个案两边都以为对方在把关。这也是为什么治理不能只加一个检测模型而是要动整个分发链路。2.3 “AI 味”本身在快速衰减不少人觉得可以用“这句子像不像 AI 写的”来判断但这个方法正在失效。早期模型生成的内容有几个特征总爱说“总而言之”、排比句特别多、形容词堆成山。后来的模型在指令调优后把这些特征压得很干净普通人单看文本已经分不出作者是人还是模型。更麻烦的是人类自己也在变得“越来越像 AI”。当大家都在短视频、AI 问答和摘要式阅读里浸泡很多人写东西也开始用总分总结构、空泛形容词、小标题加要点。这时候你按“AI 味”去清理很容易误伤真人写的模板化文章。所以治理必须从“鉴别作者是人还是机器”转向“判断内容有没有真正价值”前者是个伪命题后者才具备可操作性。3. 治理框架为什么要“分级处理”不能一刀切删除3.1 按风险分四个动作屏蔽、限流、降权、删除刚开始做治理时不少团队的第一反应是“识别出来就干掉”。但很快发现一刀切删除会带来大量客诉和误伤而且 AI Slop 很难做到百分百识别。我在实践中更倾向于把治理动作做成阶梯式动作适用对象用户感知系统成本屏蔽明确的机器灌水、恶意刷屏无感知仅发布者有提示低限流疑似 AI 生成、但暂无明显恶意的低质内容阅读量明显下降中降权确认非原创、信息增量低的内容搜索排名、推荐排序下降中删除垃圾广告、欺诈、违规内容内容下架高屏蔽和删除的区别是很多刚做治理的人最容易忽略的。屏蔽只对特定场景生效比如把某条评论折叠、把某篇文章在搜索结果里隐藏删除是直接从库里去物理消失。对于 AI Slop绝大多数情况不应该物理删除因为它是“低价值”而不是“违法内容”后者往往才是删除的合法理由。3.2 关键认知治理的目标是控制占比不是归零任何一个真实平台都做不到把 AI Slop 完全归零也不需要归零。真正重要的指标是AI Slop 在信息流里的占比以及正常创作者的流量有没有被挤压。我见过一个失败的案例某团队上了非常激进的 AI 文本检测模块线上误杀率一度超过 8%真人作者写的短文被大量限流社区作者流失率明显上升。后来把策略目标从“把 AI 识别率做到 95%”改成“把 AI Slop 的信息流占比从 20% 压到 5% 以下”误杀率调到 1% 以内生态反而好很多。所以开始做治理之前先定义清楚你想要的不是一个“干净的池子”而是一个“大多数内容仍然来自真实人类且有信息增量的池子”。这个概念不搞对后面所有的阈值和策略都会跑偏。3.3 治理体系要覆盖三道防线在具体落地时我会把整个体系分成三层入场拦截在内容发布、入库阶段做启发式规则和轻量模型初筛。这一层拦的是最笨的那批机器内容。流内调节在推荐、搜索分发时做质量分判断。这一层针对的是“能发出来但价值不高”的内容用限流和降权来减少曝光。事后追溯针对用户举报、运营抽检、搜索低满意度反馈做二次复核。这一层用来发现那些成功绕过了前两层的漏网之鱼。这三道防线缺一不可。只做入场拦截第二天就会被更聪明的生成脚本绕过只做流内调节首次曝光阶段用户已经看到垃圾只依靠事后举报反馈链路太长普通用户根本不会花时间举报一篇“只是没营养”的文章。4. 可复用的检测链路从规则到大模型裁判4.1 第一层启发式规则性价比最高的拦截网真正高效的系统通常靠规则先干掉 70%~80% 的明显问题而不是一上来就上大模型。规则的核心思路是找 AI Slop 的生产痕迹而不是辨别语义好坏。比如发布频率同一账号、同一 IP 或同一设备短时间内发布超过 N 篇内容直接进待审池。文本自相似度单篇文章内高相似句式占比过高或者连续多段都是“首先……其次……最后……”的模板。实体密度文章里真正的人名、机构名、数字、专有名词特别少而套话虚词特别多。多文档局部相似用 SimHash 或 MinHash 做相似簇检测大量文本与历史库里的文章片段高度重叠。这些规则不需要训练模型第二天就能上线。我司早期用这个方案就把 AI SEO 聚合文的拦截率做到了 75% 左右。关键是规则要跑在发布流程里不能等文章已经在线上跑了几天再补刀。4.2 第二层用“困惑度 爆发度”做机器文本信号对规则漏掉的内容可以用统计语言模型做特征提取。有两个指标值得先试困惑度perplexityPPL和爆发度burstiness。困惑度衡量的是文本对模型的“意外程度”。人类写文章时用词跳跃大、句式变化多困惑度相对高AI 生成时则倾向于把高概率词串起来整体困惑度偏低。爆发度衡量的则是句子长度和句式的波动。人类写东西状态起伏很大有时候短句有时候长句而模型如果温度设得低输出文本的长度和结构会异常均匀。两个指标一起做饭效果比单独看任何一个都稳。因为真人写出来的“极简风格”文章困惑度也可能偏低但它的句式波动通常不会像机器那样均匀到无聊。把这个逻辑封装成一个评分函数就能在召回阶段识别出一批疑似内容。有个识别伪原创 AI 文本的经验可以分享不要只看全篇 PPL最好分段看。很多模型在开头部分会模仿得很好但到中后段就开始露馅——信息重复、逻辑跳跃、长句拖沓PPL 会在后半段出现明显的大起大落。把 PPL 分布的不稳定性也作为一个特征能显著提升对“经过人工简单修改”的 AI 文本的识别率。4.3 第三层大模型当裁判做“最后一道复核”规则和统计特征跑完后剩下的内容量已经小了很多。这时候用大模型做零样本或少样本判别比较划算不会烧太多成本。我在做复核策略时会让大模型关注三件事而不是问“这文章是不是 AI 写的”这篇文章提供了几个具体事实或数据这些事实/观点是否在多个来源中可核对文章是否给出了独特的角度、案例或操作细节把问题改成“信息量拆解”而不是“作者身份鉴别”有两个好处第一AI 写的实验报告如果确实包含真实数据和结论也能正常通过避免误伤第二真人写的空话套话文会被打回这让治理逻辑落在内容价值上更站得住脚。然后对输出做一个结构化 JSON例如{ fact_count: 3, has_unique_perspective: false, repeated_paragraph: true, suggestion: 疑似洗稿或扩写建议降权 }这个结果不直接决定删不删而是进入后面的质量分体系。4.4 别忘了对抗性样本检测是一条不断追逐的曲线AI Slop 的制造者也在升级。我们上线 PPL 检测后很快发现有些人会用“改写作指令”来规避要求模型“加入一些口语化词、长短句交替、故意写错几个标点”。这堪称 AI 内容界的军备竞赛。应对方法有两个。第一是不要公开检测规则细节规则文档只在内部脱敏后流通。第二是定期做绕过测试每两周让算法同学用最新模型尝试生成一批“目标是通过检测”的内容拿回来当新的负样本训练。你不主动打自己别人就会替你做压力测试到那时候代价往往更大。5. 治理落地时最该盯住什么三个指标与一个雷达5.1 三个数字决定体系健康度低质内容残留率用人工抽检或者大模型复核的方式统计线上新发布内容里被判定为 AI Slop 的比例。理想值控制在 3% 以下这个指标告诉你拦截网有没有被大面积绕过。误杀率统计被系统限流、降权的内容里人工复核后认为值得正常分发的比例。误杀率持续高于 2%~3%就要警惕策略是不是把正常作者也影响了。人工复审覆盖比很多人会忽略这个运营指标。它指的是被系统标记出来的内容里有多少真正流入了人工抽检池。如果系统标记了 10 万条人工只看 2000 条规则再准也有可能漏掉隐性问题。这个覆盖比做到 5%~10% 是一个不算过分的要求。这三个数字要放到同一个看板里观察。如果残留率低但误杀率很高说明策略偏保守模型宁可错杀也不放过反过来如果误杀率极低但残留率还在涨说明很多 AI Slop 已经换上了“真人皮”进入了策略盲区。5.2 用作者分层来降低误杀误杀率的核心受害者往往是三类人新作者、低粉作者、写“模板化教程”的行业作者。他们在数据表现上和 AI Slop 很像——发布频率高、内容结构稳定、引用多而原创观点少。针对这个问题比较好的做法是给作者建立信誉分层。比如老作者历史内容人工抽检无违规质量得分积累高被规则命中后给予“申诉优先复核”的待遇。新作者采用“先降权观察、不直接屏蔽”的策略避免一言不合就把真人新手赶跑。已被多次确认的低质账号直接从严处理。把内容质量判断和作者历史信誉绑定本质上是给真人作者一个“被信任的余地”。这比单纯相信单篇文本判断靠谱得多。5.3 搞一个内容质量雷达而不是一元分早期我犯过一个错把所有文章都打一个 0 到 100 的分低于 60 就降权。后来发现这个一元分在运营侧非常难用因为运营根本不知道低分原因是“疑似 AI”“洗稿”还是“内容肤浅”。后来改成质量雷达用几个维度打分原创度与库内内容的相似程度信息密度有效实体、结论、关键数据量结构规范度标题与正文是否匹配段落是否断裂作者可信度历史内容表现与账号行为别让一个总分决定生死而是让“哪个维度触发了阈值”决定采用哪个治理动作。比如原创度低走降权信息密度低走限流结构混乱且疑似拼接再转人工。越细分误杀处理时的解释成本就越低。6. 最容易翻车的三个治理现场6.1 现场一“高质量 AI 辅助写作”与“AI Slop”的边界之争上线治理后收到的第一波投诉一定不是来自垃圾账号而是来自那些用 AI 润色、整理提纲的真实创作者。他们会说自己“用 AI 辅助怎么了”而系统却把他的文章识别成了低质内容。这个边界确实模糊。我的处理原则是不惩罚辅助只惩罚无增量。如果一篇内容有作者本人的真实项目经验、真实测评数据即便某些段落明显经过 AI 润色它依然是有价值的。所以在特征选择上要重点跟踪“是否有作者独特经历、是否有具体数据、是否有实操细节”而不是纠结句子是不是机器生成的。实际执行中可以加一个作者自查动作发布页面上提示用户填写“文章经历了哪些实践”“有哪些截图或测试数据可佐证”。别小看这一点它能把恶意批量生成者挡掉一大半因为他们根本懒得做这些额外动作。6.2 现场二回归测试做不好一个策略误伤整个垂类内容治理有个天然陷阱样本库以热门的、易识别的 AI Slop 为主模型很容易对特定题材过拟合。比如发现“旅游攻略类 AI 文”有特征就把所有攻略类内容都从严了结果误伤了真人写攻略的作者。推荐给每次规则调整加两层回归历史高质量内容回归集拿过去 30 天里人工确认过的高质量内容跑一遍新策略确保新策略不会把它们的质量分压下去超过 5%。垂类分层回归把科技、生活、情感、时政等不同垂类分开看误杀率不要只盯大盘。一个策略改动往往对某个垂类是救火对另一个垂类却是屠杀。6.3 现场三只防文本不管图片和多模态我想特别提醒一下AI Slop 不只是文字。现在的批量工具早就可以做文生图、图配文、甚至 AI 生成的短视频脚本。不少平台只做了文本检测结果 AI Slop 生产者马上转向做“AI 配图 简短文字”的图文贴一条贴子几分钟能产几百个。对多模态内容早期不必上很重的模型可以先做轻量级的生成痕迹检测比如图片元数据是否包含常见生成模型标签、图片与实际文字是否语义匹配、多张配图之间是否存在同源噪点特征。等量上来了再考虑专用模型。核心还是那句话AI Slop 的软肋是规模化和同质化攻击其“重复性”要比攻击其“生成痕迹”更长效。7. 治理的后半程人工审核的价值要重新定义很多人以为上了 AI 检测人工审核就不重要了。我的观点恰恰相反AI 负责把量从 10000 缩到 1000人工负责在 1000 里做确定性判断。没有人工反馈模型只是在闭着眼打分永远不知道真实生态里那些“说不清哪里怪但就是很垃圾”的案例长什么样。所以我会在每周运营例会上固定加一项议程找 5 条被系统放过但人工看不过去的内容分析系统为什么没拦住。这是一个低成本的“滴滴答答渗水检测”长期坚持下来比一次性搞一个大模型检测器的边际收益高得多。因为这些内容单条都能骗过模型说明它们多半是依托新工具生成的属于模型没见过的新模式。早发现一天就能早一天加进负样本后面少被捅一刀。人工审核团队的工作方式也要跟着变。以前审核是“看内容有没有违规”现在需要把“有没有信息增量”也纳入判断维度。这要求审核标准非常具体。我会给审核同学准备一份负面特征清单看到任意 3 条就直接判低质文章通篇没有出现任何真实项目名、人名或具体数字示例部分使用大量“比如一个用户说”“打个比方”的虚拟场景核心观点在其他热门文章中已原样出现且无任何延伸段落之间缺少转折读起来像把五篇相关文章各截一段拼在一起。把这些特征固化成 checklist既避免了审核主观性又能让新同学快速上手。最后说点实际的体会AI Slop 治理这事干久了我最大的感受是这本质上不是一个纯模型问题而是一个内容价值观工程。模型能解决的只是“怎么发现它们”真正难的是团队愿不愿意为了生态健康牺牲一部分短期流量。那些靠 AI Slop 撑起来的 PV 往往看着漂亮一旦用户发现点进来十篇有五篇都是机器拼出来的流失是不可逆的。如果你是个人站长或者中小产品还没有条件上复杂模型我建议从三个动作开始发布频率限制、相似内容聚类、人工抽检周报。一周内就能看到显性效果。如果团队条件更好再按上面的链路逐步加规则、统计特征和模型裁判。最后给你一个可量化的目标参考把一个平台里 AI Slop 的线上占比从 20% 压到 5% 以下远没有你想的那么难但要是想把 5% 压到 0%投入产出比会急剧恶化。与其追求完美不如把省下来的时间拿去设计一套“让真人作者感觉被保护”的反馈与申诉机制。在我经手的项目里后者对内容生态的长期贡献往往比任何一条检测规则都大。