ARTICLE DETAIL

资讯详情

深耕郑州网站建设与运营推广的一线实战洞察。

一站式平台跑通大模型微调与压缩部署全链路

一站式平台跑通大模型微调与压缩部署全链路 去年下半年我把一条完整的开源模型交付链路搬到了平台上跑通——从一份业务数据集开始走完 SFT、reward model、PPO再到蒸馏、剪枝、量化压缩最后过安全评估和交付部署全程没有离开同一个工作台。那条链路里最核心的工具是 LLaMA-Factory承载训练侧任务压缩侧和评估侧则由平台的任务模板编排起来。这套组合给我的感受很直接以前这些环节是碎成几段的每换一个阶段就要换一套环境、重写一版脚本加上数据格式来回转换人和环境都在“搬家”上耗掉大量时间。现在用 CubeStudio 这类一站式平台把任务模板串起来路径就顺畅太多了。这篇内容我想把完整的实操过程拆开来讲包括每一步的选型逻辑、参数怎么定、遇到过哪些坑以及最后是怎么把各项结果接回交付流程的。比较适合已经在做模型微调、准备把模型落地到业务里的人不管是调优工程师、算法研究员还是负责模型交付的平台工程师应该都能从里面找到能直接抄走的东西。1. 链路设计与工具选型为什么把训练、压缩、评估都放到同一个平台上1.1 模型交付为什么需要“一站式”做开源大模型微调这件事早期大家都是在自己机器上拉框架、配环境、跑脚本。单次 SFT 还好说可一旦业务进入迭代状态问题就来了。微调完的模型是个中间产物你不可能直接拿它上线——显存扛不住、响应太慢、成本太高必须经过蒸馏或剪枝或量化来瘦身。瘦身完还要做效果对比和安全评估。这一套下来如果每一步都在不同环境里操作会有几个非常现实的问题。第一个是环境一致性。训练环境里装的 CUDA、PyTorch、transformers 版本和后面做量化的环境未必对得上。量化工具链对算子版本敏感比如 GPTQ 在不同 CUDA 版本下 kernel 行为就有差异跑出来的量化模型精度可能差零点几个百分点。换到评估环境加载模型的 accelerate 配置又要重新调。环境不一致导致的返工大多数做过模型交付的人都遇到过。第二个是数据与产物在环节间的传递。SFT 生成的 adapter 权重要传给 reward model 做初始化PPO 的 actor 模型要接 SFT 产物量化环节要读微调后的合并权重。每换一个环境这些文件都要重新上传下载动辄几十 GB。在带宽有限的情况下光是搬运模型权重就能耗掉半天。第三个是流程可追踪。交付过程中谁改了什么参数、哪个版本产出了哪份评估报告如果靠人肉记录最后复盘时基本是一笔糊涂账。CubeStudio 这类平台的价值在于它把任务模板做成可复用的流水线每次跑任务都有记录、有参数快照、有产物归档这样整个链路才是可回归、可审计的。所以我的建议是只要你的微调任务会进入“训练—压缩—评估—部署”的完整链路就值得把工作迁移到支持任务模板的一站式平台上做。单机实验可以留在本地交付性质的工作尽量在平台上跑。1.2 LLaMA-Factory 在链路里承担的角色LLaMA-Factory 是目前开源社区里训练侧支持最完整的框架之一。它支持的模型覆盖面广从 LLaMA、Qwen、Baichuan 到各种中文优化模型都能跑训练方法覆盖 SFT、continual pre-training、reward model、PPO、DPO 等主流方案。这个框架最大的优势是把“配置文件”变成了工作流核心——每个训练任务就是一个 YAML 文件数据路径、模型路径、训练参数、LoRA 配置全在文件里声明可读性极高也方便平台去模板化。在我搭建的链路里LLaMA-Factory 负责三个任务SFT 微调生产主模型、reward model 训练产出偏好模型、PPO 阶段用 reward model 做反馈来优化 actor。每个任务在平台中对应一个模板实例参数通过模板的 JSON Schema 约束住既保灵活又防手滑。对于选型我还想补充一句不是所有微调都必须上全参数。业务数据量就几万条LoRA 完全可以胜任成本还低。LLaMA-Factory 里对 LoRA 的支持很成熟target modules 可指定rank 可调还支持 rsLoRA 这类变体。真正需要全参数微调的场景通常是数据量很大、领域差异极强的情况。1.3 平台任务模板的设计思路用 CubeStudio 这类平台编排任务核心思路是把每个环节抽象成一个模板模板定义了输入端、输出端、参数项、运行资源。链路编排时上一个模板的输出会自动成为下一个模板的输入不用人工搬运。这个抽象方式和我之前用脚本一条龙串任务相比多了一个好处每个模板可以被单独调试和复用。比如 SFT 模板输入是数据集和 base model输出是 adapter 和合并后的模型。这个模板定义一次后面所有业务线的微调都可以套用只需要换数据集和调整超参数。量化模板输入是合并后的模型权重输出是量化模型和一份量化的 benchmark 结果。模板之间的依赖关系在 UI 上可视化链路中任何一个节点失败平台会自动标记失败原因这是以前写 shell 脚本时很难做到的事情。在实际编排时我建议把模板粒度控制在“一个任务一个模板”不要贪多求大。模板太粗参数会爆炸太细模板数量过多反而增加管理成本。像“数据清洗”“SFT 训练”“模型合并”“量化”“剪枝”“安全评估”这个粒度是比较合适的。2. 微调阶段实操SFT、Reward Model、PPO 的完整配置与运行2.1 数据准备格式、切分与清洗的细节进入 LLaMA-Factory 之前第一步是把数据整理成框架要求的格式。SFT 阶段推荐用 ShareGPT 格式或 Alpaca 格式。ShareGPT 格式的优点是支持多轮对话每条数据是一个 conversations 列表每轮包含 fromhuman/gpt和 value。Alpaca 格式是单轮的 instruction/input/output 三元组适合指令遵循类的场景。我用的数据集是业务侧积累的客服对话大概 8 万条质量问题比较突出。清洗阶段做了三件事去重、去噪、拦个人身份信息。此外长尾的条数要控制——超过 2048 token 的样本训练时会被截断如果截断恰好切在答案中间模型容易学到半截的回答。我的做法是超长样本直接拆成多轮短样本保证每条样本的 answer 完整可见。数据切分上LLaMA-Factory 在配置里通过train_dataset、eval_dataset指定训练和验证集路径也可以在数据集的dataset_info.json里声明拆分比例。我习惯在预处理阶段就按 98:2 切好训练集和验证集分开存成两个 json避免框架内部的随机拆分导致评估不稳。这里有个实操细节不要直接用原始业务数据喂模型。我见过有人把原始工单直接转成 JSON 丢进去训结果模型学会了工单里的语气和省略写法。至少要做一轮“改写”把业务数据转成模型友好的问答形态。这个工作量大但对最终效果的影响非常直接。2.2 SFT 微调的关键参数与配置样例SFT 我选用 LoRA 方案原因很务实8 万条数据、7B 模型LoRA 的显存占用约 20GB单卡 A100 就能跑全参数微调要 60GB 以上必须多卡并行训练成本和稳定性要求都高不少。在效果差别不大的前提下LoRA 的性价比明显更优。这是我的一个 SFT 配置实例YAML 形态参数项可以直接对应到 LLaMA-Factory 的命令行参数model_name_or_path: Qwen/Qwen2.5-7B-Instruct template: qwen stage: sft finetuning_type: lora lora_rank: 16 lora_alpha: 32 lora_target: q_proj,k_proj,v_proj,o_proj,gate_proj,up_proj,down_proj dataset: business_sft_train val_size: 0.02 learning_rate: 2.0e-4 num_train_epochs: 3.0 lr_scheduler_type: cosine warmup_ratio: 0.05 per_device_train_batch_size: 4 gradient_accumulation_steps: 8 max_length: 2048 fp16: true几个关键参数我说下理由。lora_rank设 16 属于中间值数据复杂度和领域专有性更强时可以升到 32lora_alpha保持为 rank 的 2 倍这是 LoRA 社区经验里比较稳的取值如果追求更快收敛也可以试 alpharank但效果上限通常略低。learning_rate对 LoRA 来说2e-4 是我在 7B/14B 模型上测试的稳妥区间低于 1e-4 收敛偏慢高于 5e-4 容易出现 loss 震荡。训练轮数方面3 epoch 对 8 万条数据够用。如果数据量只有 1~2 万条可以提高到 4~5 epoch同时配合早停和验证集 loss 观察。per_device_train_batch_size4加gradient_accumulation_steps8等效 batch size 是 32这是一个对 LoRA 微调比较友好的值。batch 太小梯度噪声大loss 曲线不稳太大收敛速度变慢且显存压力增加。跑完训练后记得先做一次export把 LoRA adapter 合并回 base model生成一份完整的推理权重。合并后的模型建议单独存一份因为后续 reward model 初始化、监管评测、量化输入都需要这份权重不是每次都要现合并。2.3 Reward Model 训练要点reward model 的作用是给模型输出打分为 PPO 提供奖励信号。这个模型本质是一个序列分类模型对每个 response 输出一个标量分数。LLaMA-Factory 的 RM 训练支持两种主流数据格式一种是对比式数据即同一 prompt 下给出 chosen 和 rejected 两条回答另一种是带分数的单条数据。对比式数据更常见因为它不需要人工打绝对分只要排序就行。RM 训练时我沿用了 SFT 产出的 LoRA 权重作为初始化吗不完全。reward model 和 SFT 模型的任务形态不同前者是打分任务后者是生成任务。最佳实践是拿 base model 重新初始化一个新的 LoRA 训练而不是复用 SFT adapter。我踩过一次坑直接拿 SFT adapter 继续训 RM结果打分分布非常钝区分度很差。原因是 SFT 阶段已经把模型往生成方向带偏了再接 RM head 时特征空间并不匹配。RM 训练的配置里stage设为rm数据格式用对比对。关键参数上学习率比 SFT 要更低一些我一般用 1e-5 左右epoch 控制在 1~2过拟合的风险在这个阶段更高。训练结束后模型会输出一个score头这个头在后续 PPO 中会被加载。RM 训练小技巧训练数据里要保证 chosen 和 rejected 的长度不要差太大。如果 chosen 是长回答、rejected 是短回答模型很容易学到“越长分越高”的捷径而不是真正理解内容质量。我在清洗数据时加了规则两边的 token 长度差距控制在 30% 以内。2.4 PPO 强化学习微调的实操经验PPO 阶段是整条链路里最不稳定的一环。LLaMA-Factory 支持stage: ppo配置里需要同时指定 policy model 和 reward model 的路径。我的做法是policy model 用 2.2 节里合并后的 SFT 权重reward model 用 2.3 节里训练好的 RM。PPO 的配置有几个需要特别注意的地方。首先是per_device_train_batch_size要调小我多数时候用 2配合gradient_accumulation_steps来撑住整体 batch。PPO 的 rollout 阶段会调用 policy model 做推理这个阶段耗时是训练的好几倍平台资源上需要预留更大的 CPU 内存因为 tokenizer 和采样逻辑会消耗不少内存。clip_range的默认值是 0.2一般不需要动。value_lr通常设成 policy lr 的十分之一我用的组合是 policy lr 1e-6、value lr 1e-7。这个值如果设大了价值函数波动剧烈训练曲线会出现明显的锯齿形。在 PPO 出来的效果评估上我的心得是不要只看 reward 曲线的上升。奖励上升只代表模型在向 RM 偏好的方向移动不代表真实业务指标变好。我会保持一份 PPO 训练中的 checkpoint 序列每隔一段用业务测试集做一轮人工抽检观察输出质量和多样性的变化。实际经验中PPO 训练到中后段可能会出现 reward hacking——模型发现某种模式能骗到高分但输出内容已经偏离业务可用范围。这时候需要人工介入降低训练步数或者用带 KL 惩罚的 PPO 变体把策略偏离控制住。3. 模型轻量化蒸馏、剪枝、量化的压缩链设计3.1 蒸馏让小模型继承大模型的知识蒸馏是我在做轻量化时的第一选择因为它的收益最温和且风险最小。蒸馏的原理是用一个大模型教师的输出作为监督信号训练一个小模型学生模仿教师的行为分布。LLaMA-Factory 标准版对蒸馏的支持不算完整所以我在平台任务里把蒸馏拆成了两步先用教师模型对训练数据批量生成输出再用生成后的数据做一轮 SFT 训练学生模型。第一步的教师推理任务在平台上是独立的模板输入是清洗好的 SFT 数据集输出是一份“伪标签”数据集。我在这个环节会用教师模型带着较高温度采样比如 temperature0.8, top_p0.9这样生成的伪标签比贪心解码更有多样性学生能学到更丰富的分布信息。第二步的学生训练配置上和我前面 SFT 基本一致差异有两点学习率降到 1e-4 左右因为教学数据相对规整不需要太大的更新步长另外数据里我保留了教师输出作为答案但会在 prompt 里显式标注“参考回答”的字样帮助学生更好对齐。需要补充的是蒸馏不是必须“降一个规格”来做。教师和学生可以是同一规格蒸馏的作用在于把教师的输出风格、口语习惯、领域知识更集中地提炼到学生的参数里。如果目标是显存压缩那学生模型就选小一号的规格比如 7B 蒸馏到 3B。如果目标是领域能力强化同规格蒸馏也完全可以效果通常比直接在原始数据上继续 SFT 更稳定。3.2 结构化剪枝 vs 非结构化剪枝的选型逻辑剪枝是压缩里技术门槛较高的环节我在平台任务里分别跑过结构化剪枝和非结构化剪枝对两者的取舍有比较明确的判断。结构化剪枝是直接去掉模型中某些结构单元比如移除部分注意力头、裁剪 FFN 的中间维度。这种剪枝方式能真正带来推理加速和显存下降因为模型的实际计算量变小了。但代价是效果损失相对大因为被剪掉的结构是硬删除不可逆。如果剪枝比例超过 20%7B 模型在业务任务上的表现肉眼可见地变差——回答变短、逻辑连贯性下降。非结构化剪枝是置零权重中低于阈值的元素模型结构不变权重矩阵变成稀疏矩阵。这种方式在不做特殊硬件优化的场景下显存节省有限——因为当前主流 GPU 对稀疏矩阵的稠密计算加速支持还不普及实际推理时非结构化剪枝模型加载后仍然是稠密存储。如果说目标是落实推理显存非结构化剪枝的收益比较虚。我最后采用的是混合策略对多头注意力部分做结构化剪枝剪除冗余头对 FFN 层做幅度剪枝稀疏化然后接一个短周期的蒸馏恢复训练。这个顺序很关键剪枝后必须接恢复训练否则模型损失无法自行恢复。剪枝蒸馏的组合恢复训练通常 1 epoch 就能让模型性能明显回升2~3 epoch 内基本稳定。剪枝比例的设定上我的经验是从小到大试。先剪 10%跑一轮评估看效果如果指标损失在可容忍范围再试 15%、20%。每个比例都留一份评估报告方便对比和回溯。平台模板的好处在这里体现得很明显每次剪枝都是一个独立任务参数、产物、报告都被记录我回看时能直接按任务 ID 拉出历史结果。3.3 量化选型GPTQ、AWQ 与 INT8/INT4 的选择标准量化是我在交付阶段必做的一步因为模型加载显存直接决定推理服务的成本。量化方案选型上主流的两个路线是 GPTQ 和 AWQ它们都是训练后量化PTQ不需要重新训练模型。GPTQ 的思路是逐层对权重矩阵做近似最小化量化误差AWQ 的思路是根据激活值的分布找出对模型输出影响大的权重通道对这些通道保留更高精度。实际效果上在 4-bit 量化场景里AWQ 通常比 GPTQ 在困惑度和下游任务分数上要好一点尤其是在 7B 以下规模的模型上差异更明显。如果你的模型是 13B 以上、显存余量较大GPTQ 的 4-bit 也完全够用。INT8 和 INT4 的选择标准要看两点一是推理框架的支持度二是精度敏感度。INT8 量化后模型精度损失通常在 1% 以内基本是无感压缩显存可以比 FP16 减半INT4 显存进一步减半但精度损失上升到 2%~4%如果业务对输出质量要求高需要谨慎测试。我一般用 vLLM 或 llama.cpp 做推理时量化格式选择就看这两条显存预算紧张选 INT4不紧张选 INT8。量化任务在平台上是比较标准的输入是 FP16/BF16 的合并模型输出是量化后的模型和一个量化对比报告。报告里包含量化前后模型在验证集上的困惑度、若干条业务样本输出的对比。这里我特别提醒一个细节量化前先把模型导出成 FP16 权重不要在 LoRA adapter 上直接做量化。adapter 权重是小规模增量量化它意义不大必须先把 adapter 合并回主模型再做量化。3.4 压缩链组合顺序的经验之谈我把“蒸馏→剪枝→量化”的先后顺序固定成了一条规则顺序不能乱。先蒸馏目的是让小模型先学到教师的能力这时模型还是稠密、浮点状态知识迁移效率最高再剪枝在蒸馏后的小模型上做结构压缩此时模型已经具备了比较扎实的知识基础剪掉一部分冗余结构损失可控后面接恢复训练效果也最好最后量化放在所有模型结构操作之后因为量化是对权重数值的压缩如果在量化之后做剪枝剪枝后的权重分布变化可能破坏量化表的统计特性导致精度大幅下降。这套顺序我在多个模型上验证过效果稳定的组合是7B 教师蒸馏到 3B 学生 10%~20% 结构化剪枝 INT8 量化。压缩后模型体积从原来的约 14GB 降到约 2.5GB推理时单请求的显存占用大约 4~5GB加载速度明显提升业务测试集上的回答质量保持在可接受范围。如果业务要求模型效果优先、不追求极致压缩那我的建议是只做蒸馏或只做 INT8 量化不要叠加剪枝。压缩手段叠加越多精度损耗叠加越大这个风险需要在规划阶段就评估清楚。4. 安全评估与交付落地把评测结果变成可度量的交付标准4.1 安全评估为什么必须是压缩后的最终环节安全评估放在链路末端因为前序的蒸馏、剪枝、量化都会改变模型的输出分布量化模型在越界内容上的表现可能与原始模型有差异。有些在原始模型上不会触发的问题剪枝后可能暴露出来因为模型对某些输入的内部表征已经变了。所以安全评估一定要以最终交付形态的模型为准而不是拿微调后的未压缩模型做替代评估。评估工具上我用 OpenCompass 这个开源评测框架比较多它内置了大量主流评测集可以按任务模板批量跑分。LLaMA-Factory 微调出的模型可以很方便地接入 OpenCompass——只要你把模型路径和推理方式配好它就能自动加载并跑评测。安全评估的任务输入是压缩后的模型输出是一份包含多个维度分数的评估报告。这些分数包括有害内容拒答率对应融入安全价值观的测试集、暴力色情内容识别率、偏见缓解指标、幻觉率等。报告按维度列出得分并附上具体样例输出方便我们自己判断分数可信度。4.2 评估维度设计与指标解释安全评估维度不能只设一个总分一定要拆细。我的评估模板里固定包含 5 个维度越狱攻击防御用各种诱导性 prompt 测试模型会不会被绕过安全限制。有害内容拒答政治、暴力、色情、歧视等类别测试模型是否拒答或提供安全回应。隐私保护测试模型在听到个人敏感信息时会不会主动透露或复述。幻觉率用事实性问题测试模型回答的真实性避免模型一本正经地编造。指令遵循度测试模型是否严格按照用户指令执行不自行发挥。每个维度下我会选 500~1000 条测试样本覆盖常见变体。评估时建议分别统计模型的拒答率、正确回答率、错误诱导率三个指标不能只看正确率。比如一个大模型在越狱攻击测试中“拒答率”很高但“正确回答率”很低说明它只是保守不是真的安全。OpenCompass 里配评测集时可以用它自带的 benchmark也可以导入自建数据集。自建数据集推荐做成 JSON 格式每条包含 prompt、期望行为类型、标签。这样评估报告能按标签交叉分析比如“暴力类样本的拒答率是 90%但隐私类只有 60%”问题定位会更准确。4.3 从评估到部署交付的衔接评估报告通过后模型就进入部署侧。这个阶段我会做一次最终打包把量化模型、tokenizer 配置、推理服务配置比如 vLLM 的--quantization参数放在同一个目录注册到模型仓库。平台的推模型版本管理和部署服务对接都是从这里开始的。部署参数上vLLM 下 INT8 模型用--dtype float16加载INT4 模型用--quantization gptq或--quantization awq对应加载。llama.cpp 则直接读 GGUF 格式。和部署环境的对接会有一些格式细节建议在最终交付前做一次完整的端到端测试——用真实业务请求打通“加载模型—推理—返回—记录日志”的完整链路。这里我踩过的坑是对 vLLM 来说量化模型加载时--max-model-len如果不匹配会导致显存预分配失败或不必要的显存浪费。一般经验是INT4 模型可以设得保守一点比如 8192同时开启--gpu-memory-utilization 0.9来利用接近全部的显存。5. 链路实操中的问题排查与避坑记录5.1 微调阶段的显存与训练稳定性问题大模型微调最常见的问题就是显存溢出。我做 7B LoRA 时在单卡 A100 上跑过很稳但换到 13B 模型时 40G 显存就明显吃紧。处理办法是优先开gradient_checkpointing这会牺牲约 20% 的训练速度但显存可以省接近一半。第二个手段是缩小per_device_train_batch_size并同步加大gradient_accumulation_steps保持等效 batch 不变。还有一个很隐蔽的问题max_length设得越大显存占用呈线性增长但很多数据根本不那么长。如果数据中 95% 的样本不超过 1024 token没必要硬上 2048。把max_length降到 1024显存占用能降 20%~30%训练速度还更快。训练过程中 loss 出现 NaN优先排查三件事一是学习率是否过大LoRA 超过 5e-4 有概率爆 loss二是 fp16 精度溢出换成 bf16 会稳很多三是数据里有没有极端长样本长样本加上 fp16 混合精度训练时梯度容易异常。5.2 量化精度损失的调优记录量化后模型效果变差先分清是“量化本身的损失”还是“推理配置导致的损失”。我遇到过一种情况同是 INT4 量化一个模型跑 vLLM 结果正常另一个模型跑同一个推理框架却输出明显变差最后排查下来是模型原生的 normalization 参数和量化表的统计分布不匹配需要在量化前把模型精度从 fp16 转到 bf16或者在量化工具里重新设置--sym对称量化参数。W4A16 和 W8A8 是两种常见量化位宽组合。W4A16 只量化权重激活保持 fp16精度损失小但推理速度提升有限W8A8 连激活一起量化推理速度更快INT8 GEMM 计算效率高但精度损失相对大。如果对延迟有硬性要求可以试 W8A8否则优先 W4A16。量化后还有一个常见问题模型输出“变短了”。这不是量化本身的问题而是在某些推理框架下量化模型采样时的重复惩罚和温度参数与原始模型不一致导致输出风格漂移。这个问题的解法是部署时显式传入和量化前相同的 generation config而不是依赖框架默认值。5.3 剪枝效果恢复的训练参数经验剪枝后的恢复训练我试过不同学习率的效果差异很大。学习率太高超过 1e-4剪枝后的模型会把未剪枝部分也带乱最终得分比剪枝前还低学习率太低低于 1e-5恢复速度太慢需要更多 epoch。7B 模型的恢复训练我一般在 2e-5 到 5e-5 之间epoch 控制在 2 左右基本能把剪枝损失抹平 70% 以上。剪枝位置的选择对恢复效果也有影响。对 MLP 层做剪枝后恢复训练相对容易对 attention 层剪枝后恢复难度更大因为注意力头的冗余性不如 FFN 中间神经元那么强。所以如果只能选一种剪枝优先剪 MLP 层更容易恢复到可用状态。5.4 平台使用中的几个效率技巧最后分享三个平台使用层面的小技巧能让整条链路跑得更顺手。第一个技巧是先在小模型上验证整个链路。我一般先用 0.5B 或 1.5B 的模型把“SFT→量化→评估”全流程跑通确认平台模板的参数配置、数据格式、产物路径都没问题再切换到正式模型全量跑。一次正式任务失败重跑的成本可能够跑十次小模型的验证这个“先用小模型试跑”的投入非常值得。第二个技巧是把数据集和评估集版本管理起来。数据集在平台里不光是一个存储文件还应该有版本信息。我习惯每次更新训练数据都递增版本号并在任务参数里记录对应版本这样结果回溯时能直接定位到数据来源。否则模型效果变好了还是变差了连是不是数据变了都无法判定。第三个技巧是善用模板的参数继承。平台模板支持参数继承后我通常是在 SFT 模板里定义好“数据集版本、模型路径、LoRA 配置”这些公共参数后续的 reward model、PPO 模板直接继承主配置再覆写各自阶段特有的参数。这样整条链路的参数变更点非常聚焦出问题时排查范围也小很多。我在实际跑这条链路时最大的体会是真正花时间的不是单个环节的调参而是把环节与环节之间的接口打通。数据集格式、权重传递、参数继承、产物记录这些“胶水层”做得越好整条链路就越可控。CubeStudio 的任务模板在这层帮了很大的忙但模板本身不会替你决策每个环节的参数怎么定、效果怎么验收还是得靠实打实的理解和测试。如果你也准备搭一条类似的交付链路建议从一次完整的小模型试跑开始跑通了再上真实规模后面会顺很多。
返回列表