先立骨架十个场景其实是同一件事企业里的非结构化数据处理看起来形态各异——合同、评论、工单、研报、代码——但拆到底都是同一条链路非结构化输入 → 结构化中间表示 → 可决策输出差别只在于三个变量变量它决定了什么错误的代价​是可逆的推荐错了一条评论标签还是不可逆的漏掉一条无限责任条款Schema 的稳定性​字段是固定的发票金额、合同主体还是语义开放的这段摘要讲了什么吞吐与时延要求​离线批处理小时级还是在线流式秒级这三个变量就是所有技术选型的输入。​ 脱离它们讨论该不该上大模型结论永远是错的。一个朴素的判断准则Schema 稳定 量大 错误代价低​ → 规则引擎 / 轻量小模型 / 正则表达式就该是主力大模型只做长尾兜底Schema 开放 需要语义理解​ → 大模型上场但必须用结构化输出JSON Schema / 函数调用约束自由度错误代价高​ → 无论用谁都必须保留原文溯源位置和人工确认界面系统的定位是排序器而不是终审后面十个场景都是这套判断的具体实例化。① 海量文档智能清洗与结构化提取问题本质清洗不等于删掉脏东西而是恢复被破坏的结构。PDF 转文本最大的破坏不是乱码而是三件事断行把句子切碎、表格被拍平成一维字符流、页眉页脚混入正文。一旦结构丢失下游无论接什么模型输入都是噪声。方案拆解格式归一化层先检测 PDF 是文本层还是扫描件文本层字符密度是一个很快的判据扫描件走图像预处理去歪斜、去噪、二值化再进 OCR文本层直接抽取但保留坐标。版面分析层用 layout 模型输出带层级和坐标的 block tree标题 / 段落 / 表格 / 图注 / 页眉页脚而不是一整串 text。这一步是结构化的第一公民。语义映射层把 block tree而非 raw text喂给大模型配合预定义的 JSON Schema 做字段标准化——联系人张三姓名 _ 张三Contact: Zhang San统一映射到contact_name。工程避坑顺序不能反先版面分析再语义映射。把整篇文本直接丢给 LLM等于主动丢弃版面信息表头与单元格的对应关系永远找不回来。表格单独走表格识别通道行列结构还原别指望通用模型从拍平的字符流里猜出合并单元格。清洗后必须保留block → 原文页码/坐标​ 的映射否则后续无法溯源法务和审计场景直接不合格。断行修复要用段落级重建而非简单replace(\n, )否则列表和代码块会被连成一段。一句话结论Schema 先行、版面优先结构化提取的准确率上限由版面分析决定而不是由模型大小决定。② 电商商品评论情感批量分析问题本质好评率 92%是一个几乎没有决策价值的数字。真正有用的是可归因的维度满意度物流慢、包装破、材质与描述不符——这三个问题对应的改进动作完全不同。所以目标是 ABSA方面级情感分析不是整体极性打分。方案拆解Aspect 词表不能靠拍脑袋对高频名词短语做聚类再用模型归纳成可维护的 aspect taxonomy物流 / 包装 / 材质 / 尺码 / 性价比…并留出人工增删入口。两级推理轻量模型几百 MB 的微调分类器跑全量做粗筛只把中间态、含转折词、含比较级的难样本路由给强模型。典型难样本就是价格便宜但质量一般——关键词匹配的误判重灾区。批量异步架构评论分片入队、GPU 批推理但必须保证幂等与可重放用评论 ID 做主键重跑不产生重复记录。工程避坑默认好评是行业常态直接拿评论极性算满意度会失真需剔除无文本评分。网络用语和行业黑话会持续漂移动态词典要有人工确认环节否则噪声词会被自动收进词表并污染后续统计。输出物必须是一张维度 × 时间的趋势报表而不是一个总分。报表里每一条负面结论都要能下钻到原始评论。一句话结论情感分析的交付物不是分数是哪个维度、从什么时候开始、变差了多少。③ 多语言客服工单自动分类与回复问题本质难点不在翻译在语用。同一句我们会尽快处理在日语语境里需要更郑重的敬语层级在德语语境里过度客套反而显得不专业。直接机翻一套中文模板产出的是翻译腔客服不敢发。方案拆解语种识别短文本和方言混合是主要失败区建议结合字符集特征 语言分类模型双判低置信度时回退到按用户注册地默认语种 人工可切换。意图分类映射到业务动作退款申请 / 技术故障 / 账户异常而不是映射到话题。分类体系应由工单处理流程反推保证每一类都有对应的 SOP。RAG 回复生成知识库切片按 QA 对切不要按段落切。检索历史优质回复作为 few-shot 示例让模型模仿的是这个 locale 下的语气范式而不是凭空生成。工程避坑必须设置信度阈值低于阈值直接转人工且转人工时把检索到的证据片段一起推给客服省掉他重新查库的时间。自动回复一律是草稿态工单系统里已发送必须由人触发。人工修改后的高质量回复要回流进知识库但回流前需过滤掉个人化信息真实姓名、订单号。这个场景的核心指标不是分类准确率而是一次解决率和人工平均编辑字数。一句话结论客服自动化的价值不在于替人回复而在于把人从查资料降到审内容。④ 长文本内容摘要生成效率优化问题本质朴素的 map-reduce 摘要分段摘要 → 汇总有个致命缺陷数字和限定条件在二次压缩中被改写。研报里的同比增长 12.3%剔除一次性损益后为 4.1%经过两轮压缩极易变成增长超 10%——这对金融和法律场景是不可接受的。方案拆解先抽骨架标题树 各级首句 结论段 图表标题构成全局锚点。骨架是抽取式的不经过生成天然保真。再填内容让局部摘要围绕骨架生成模型只需要回答这一节支撑了骨架中的哪个论点大幅降低自由度。数字走抽取不走生成关键数值从原文复制并在输出中带上原文位置生成后跑一遍数值一致性校验摘要中出现的数字必须在原文中存在。工程避坑chunk 按语义边界章节 / 段落切不要按固定 token 数硬切否则跨段指代该公司指的是谁必然丢失。摘要必须可溯源到原文段落严肃场景里不可溯源的摘要等于不可用。流式输出不只是体验优化它让用户能在生成中途打断避免为不需要的内容付费。一句话结论长文本摘要的质量取决于你让模型生成的部分有多少——越少越可靠。⑤ 营销文案多版本快速裂变问题本质活泼一点年轻化一些这类 prompt 是无效的因为它不可度量、不可复现。品牌调性必须被拆成可量化的风格特征才能被模型稳定地模仿。方案拆解风格指纹库从历史高转化样本中抽取可量化特征——句长分布、动词密度、人称偏好、CTA 位置、emoji 密度、是否使用数字列表——形成结构化的风格卡。正交维度裂变不要只调 temperature 让它随机变化。显式定义裂变维度叙事角度 × 情绪强度 × 长度 × CTA 类型在每个维度组合下生成保证变体之间正交覆盖而非随机抖动。自动筛选用历史曝光/点击数据训练一个轻量打分器做初筛产出 top-N 供人工复核。工程避坑高 temperature 会产生看起来不一样但卖点相同的伪多样性靠随机采样凑不出真正的角度差异。必须有品牌合规词表做前置过滤绝对化用语、竞品名、医疗功效宣称。生成—筛选闭环如果只喂模型自己生成的数据会自我强化偏见必须周期性用真实投放数据校准打分器。一句话结论裂变的意义不是多而是让 N 个版本覆盖 N 个不同的说服角度。⑥ 法律合同关键条款风险筛查问题本质关键词匹配的失败是双重的既漏掉表述正常但隐含排他性限制的条款又把包含责任二字的所有条款全标为高风险。合同风险的本质是权利义务结构失衡不是词汇命中。方案拆解条款结构化把每条条款抽成五元组——(主体, 义务, 条件, 例外, 期限)。风险判定变成对五元组的规则匹配因此可解释能明确指出甲方可单方解约且无通知期。知识图谱 规则引擎内置常见风险模式无限责任、单方解约权、IP 归属模糊、自动续约同时支持把内部合规手册转成可执行的检查规则 DSL按行业定制。输出形态高亮原文位置 风险等级 修改建议 依据条款按风险分排序批量输出。工程避坑这个场景召回优先于精确宁可多报让人排除不可漏报。评估时重点看漏检率而不是准确率。措辞上必须是待审提示而非法律结论否则会误导非专业人员跳过法务复核。修改建议要给出替代文本而不只是建议修改否则法务还得自己重写省不下时间。一句话结论合同筛查系统的正确定位是第一道防线和排序器它的产出是法务的工作队列不是法律意见。⑦ 教育题库自动生成与难度分级问题本质生成题目的失败模式有两种文科题情境不合理理科题看着像但无解或有多解。后者是致命的——一道无解的题进入题库污染的是整个教学流程。方案拆解按布鲁姆分层设计记忆 / 理解 / 应用 / 分析 / 评价 / 创造每一层对应不同的题型模板避免全库都是下列哪个说法正确。理科逆向生成先生成解法与答案再由解法反推题干。这样天然保证可解性再用符号计算或数值校验验证答案唯一。难度分级冷启动阶段用静态特征知识点数量、推理步数、干扰项与正确项的语义相似度、句子复杂度预估有实测数据后切到 IRT 模型校准形成预估 → 试测 → 校准的闭环。工程避坑干扰项不能随机生成必须与正确项语义接近但有明确区分点否则题目考的是排除明显错误项的能力难度被系统性低估。检查选项长度/格式泄漏如果正确答案总是最长或总是唯一含限定词的那个模型会学会作弊。入库前强制跑一遍去重与已有题目的语义相似度否则题库会迅速同质化。一句话结论题目质量的底线是可解且唯一解先校验后入库宁可少出十道不可错放一道。⑧ 社交媒体舆情实时聚合问题本质实时性只是门槛真正的难点是从碎片中聚出事件。一万条骂声里可能有三个独立事件、两波水军和一次误传把它们混成一个负面情绪上升的信号等于什么都没说。方案拆解流式管线采集 → 去重SimHash / MinHash 近重复检测→ 垃圾与水军过滤 → 情感分析 → 增量聚类。增量聚类而非固定 K-means事件是流动的新帖要能并入已有事件簇也能分裂出新簇簇中心随时间衰减。突发检测不只看词频要看组合信号——增速斜率 负面情感斜率 传播结构是否被大 V 转发。单看词频会被日常波动淹没。工程避坑去重阈值过激会把真实的病毒式传播压成一条导致热度被严重低估建议保留重复计数作为热度维度。聚类要有簇漂移检测一个话题聊着聊着转向了需要能拆簇。平台 API 限流是常态采集层必须做退避和多源冗余不能把实时性押在单一接口上。预警阈值要给两个指标发现时延和误报率只优化一个必然导致另一个失控。一句话结论舆情系统交付的不是热度曲线是发生了什么事件、谁在推动、情绪往哪走的时间线。⑨ 代码注释补全与技术文档转换问题本质自动生成的注释最常见的毛病是复述代码i被注释成i 自增 1。这类注释的信息量是零。有价值的注释说的是代码没写出来的东西——前置条件、边界行为、副作用、为什么这么选。方案拆解上下文单位按 AST / 调用图取不按文件截断。生成一个函数的注释时必须能看到它的调用方和被调用方否则无法判断约束条件。Prompt 里显式要求四类信息输入约束、输出语义、边界与异常行为、副作用是否修改全局状态 / 是否 I/O。文档转换从 commit / PR / Issue 中提取变更意图生成 changelogAPI 文档从函数签名 类型注解 现有用例生成。工程避坑注释风格要进 prompt 的示例Javadoc / Google Style / NumPy Style而不是让模型自由发挥后统一后处理。最大的收益点其实不是生成文档而是在 CI 里做文档失效检测代码改了但对应文档块没变就标记为待更新。这解决了文档永远不会同步的老问题。生成内容一律进 PR 由人审阅不要直接提交到主干。一句话结论文档自动化的真正价值不在于省下写作时间而在于让文档已过期这件事能被自动发现。⑩ 大规模应用的成本控制问题本质成本失控通常不是因为单价高而是因为大量本不需要大模型的调用走了大模型。第一刀该砍的是不必要的调用第二刀才是更便宜的调用。方案拆解模型路由按任务复杂度分级——格式清洗、基础分类走规则或小模型创意写作、深度推理才走大模型。路由本身可以是一个极轻量的分类器。两级缓存精确缓存请求完全一致 语义缓存相似度超阈值复用历史结果。语义缓存的相似度阈值要设得偏保守避免近似但不该复用。批处理调优通过压测找性价比最优点——批次太小 GPU 空转太大则尾延迟飙升离线任务可用闲时算力。长期路线对高频、Schema 稳定的任务用大模型的输出蒸馏微调专属小模型往往比长期调用通用模型更经济。工程避坑监控要按任务 × 租户 × 单次调用三个维度追踪 token、延迟、失败重试率只看总账单无法定位问题。语义缓存的命中率会被高 temperature 打散——生成类任务的缓存策略要和推理参数联动设计。路由误判会直接损伤质量必须有回退路径小模型输出置信度低时自动升级到大模型。算成本要把人工返工成本算进去一个便宜但错误率 15% 的方案实际可能比贵三倍但准确率高得多的方案更贵。一句话结论成本优化的顺序是减少不必要调用 → 缓存复用 → 路由降级 → 蒸馏微调跳过前两步直接砍单价效果有限且伤质量。横切的三件事比单个场景更重要十个场景讲完真正决定项目生死的其实是这三件跨场景的事1. 评测集必须先行golden set人工标注的几百条样本 明确的评分口径要在开发前就建好。没有它你无法判断任何一次 prompt 改动是变好还是变差项目会退化成凭感觉调参。准确率、召回率、漏检率哪个是主指标取决于场景的错误代价——合同筛查看漏检客服回复看人工编辑量题库看可解率。2. 人机界面要显式设计置信度阈值、可编辑、可溯源码——这三样不是锦上添花是系统能否被信任的前提。凡是输出不可编辑、不可溯源的系统最终都会被人绕过。3. 演进路径是螺旋上升的规则 → 小模型 → 大模型 → 用大模型产出蒸馏出小模型。很多团队的经验是大模型真正的价值往往体现在帮我把小模型训出来而不是永远在线上跑。落地建议第一个场景选错误代价低、Schema 稳定、量大的那个——通常是①文档结构化提取或②评论情感分析。用它们把评测体系、监控体系和成本体系跑通再去啃合同审查这类高代价场景路径会顺得多。