尧图网页设计 
简介这份资源面向机器学习初学者与需要快速上手SVM的工程人员聚焦在Matlab环境下用支持向量机完成分类与回归预测。包内共6个文件以5个m脚本和1个txt数据文件为主压缩包约6KB体量轻便。脚本覆盖SVM训练、预测、核函数实现、SVR回归以及性能模拟评估等环节数据文件则提供可直接加载的特征与标签样本便于读者对照代码理解从建模到验证的完整流程。已有6968人学习下载说明其在入门实践中具备一定参考价值。读者可借此掌握核函数选择、惩罚参数与核宽调整等关键思路并借助评估脚本观察模型表现逐步建立对SVM预测流程的直观认识适合作为课程实验或自学练手的起点。1. 支持向量机做预测Matlab 里从数据到模型的那条最短路径手上有一批带标签的样本想预测新样本的类别或数值又不想一上来就堆深度网络支持向量机SVM往往是性价比最高的选择。它靠间隔最大化和核函数在小样本、高维、非线性场景里表现稳定训练完模型体积也小。Matlab 自带 fitcsvm、fitrsvm 这类函数配合 Classification Learner 工具箱几行代码就能跑通全流程。这篇笔记面向想用 SVM 做预测的工程师分类和回归两条线怎么选、核函数和超参数怎么调、交叉验证怎么做、预测结果怎么评估以及那些让人反复翻车的细节。读完你能在自己的数据上复现一套可用的 SVM 预测流程而不是停在调包跑通的层面。2. SVM 预测的两种形态分类与回归在 Matlab 里怎么落地2.1 分类和回归的差别先想清楚再动手SVM 做预测分两条路。分类是 fitcsvm输出离散标签比如设备正常/异常、邮件是否垃圾。回归是 fitrsvm输出连续数值比如房价、剩余寿命、传感器读数。两者数学骨架一样都是找一个决策函数让间隔最大区别在损失函数分类用 hinge loss 加松弛变量回归用 ε-不敏感损失允许预测值落在真实值 ±ε 带内不算误差。选哪条路只看标签类型。标签是类别名或整数类别走分类标签是连续实数走回归。常见误用是把连续值硬当类别塞进 fitcsvm比如把温度分成 20 个整数档结果模型学到的边界毫无物理意义。我一般先看标签的取值个数和分布取值少且离散分类取值连续且跨度大回归。Matlab 里两个函数的调用形式几乎对称% 分类标签是 categorical 或字符向量元胞 mdlCls fitcsvm(X, Y, KernelFunction, rbf, Standardize, true); % 回归标签是 double 向量 mdlReg fitrsvm(X, Y, KernelFunction, rbf, Standardize, true);X 是 n×p 特征矩阵每行一个样本每列一个特征。Y 分类时是 n×1 的 categorical 或 cellstr回归时是 n×1 的 double。Standardize 设为 true 会做 z-score 标准化这一步在特征量纲差异大时几乎是必须的否则核函数计算出的距离会被大数量级特征主导。2.2 核函数怎么选线性、RBF、多项式各自的适用面核函数决定 SVM 能不能处理非线性。线性核适合特征维度已经很高、样本线性可分或接近线性可分的场景训练快、可解释性强权重能直接看特征重要性。RBF 核是默认首选把样本映射到无穷维空间适合大多数非线性问题代价是要调两个参数核宽度 sigma 和惩罚系数 C。多项式核适合有明确交互项需求的数据但阶数一高就容易过拟合实际用得比 RBF 少。Matlab 里核函数通过 KernelFunction 指定可选 linear、gaussian即 RBF、polynomial。RBF 的核宽度由 KernelScale 控制它和 sigma 的关系是 KernelScale sqrt(1/(2*sigma^2)) 的倒数关系实际调参时直接调 KernelScale 就行不用自己换算。% 线性核高维稀疏数据追求可解释性 mdlLin fitcsvm(X, Y, KernelFunction, linear, Standardize, true); % RBF 核通用非线性场景指定核宽度 mdlRbf fitcsvm(X, Y, KernelFunction, gaussian, ... KernelScale, 2.5, BoxConstraint, 1, Standardize, true); % 多项式核明确需要交互项时 mdlPoly fitcsvm(X, Y, KernelFunction, polynomial, ... PolynomialOrder, 3, Standardize, true);KernelScale 越小决策边界越弯曲容易过拟合越大边界越平滑可能欠拟合。BoxConstraint 就是常说的 C越大对误分类惩罚越重间隔越窄也越容易过拟合。这两个参数要一起调单独调一个往往顾此失彼。2.3 用交叉验证把超参数定下来拍脑袋设参数是翻车的开始。Matlab 提供 fitcsvm 的自动超参数优化也支持手动交叉验证。自动优化用 OptimizeHyperparameters 指定要搜的参数内部做贝叶斯优化适合快速拿到一个不错的起点。% 自动优化 BoxConstraint 和 KernelScale mdlOpt fitcsvm(X, Y, KernelFunction, gaussian, ... Standardize, true, ... OptimizeHyperparameters, {BoxConstraint, KernelScale}, ... HyperparameterOptimizationOptions, ... struct(AcquisitionFunctionName, expected-improvement-plus, ... MaxObjectiveEvaluations, 30, ShowPlots, false, ... Verbose, 0, KFold, 5));MaxObjectiveEvaluations 控制搜索次数30 次在中小数据集上够用数据大或参数空间宽就加到 50 以上。KFold 是交叉验证折数5 折是常规选择样本少时用 10 折但计算量翻倍。ShowPlots 设 false 是为了脚本里不弹窗调试时可以打开看优化过程。手动交叉验证更可控适合你已经对参数范围有判断的情况CList [0.1 1 10 100]; sigmaList [0.5 1 2 5 10]; bestAcc 0; bestC 1; bestS 1; cvp cvpartition(Y, KFold, 5); for c CList for s sigmaList acc 0; for k 1:cvp.NumTestSets trIdx training(cvp, k); teIdx test(cvp, k); m fitcsvm(X(trIdx,:), Y(trIdx), ... KernelFunction, gaussian, ... BoxConstraint, c, KernelScale, s, ... Standardize, true); pred predict(m, X(teIdx,:)); acc acc sum(pred Y(teIdx)) / numel(teIdx); end acc acc / cvp.NumTestSets; if acc bestAcc bestAcc acc; bestC c; bestS s; end end end fprintf(最优 C%.2f, KernelScale%.2f, 交叉验证准确率%.4f\n, ... bestC, bestS, bestAcc);这段双重循环把每个参数组合都跑一遍 5 折交叉验证取平均准确率最高的组合。cvpartition 保证每折的类别比例和整体一致避免某折里全是某一类导致评估失真。参数网格别设太密先粗后细否则计算时间会失控。3. 从原始数据到可预测模型完整流程与评估3.1 数据准备缺失值、类别不平衡、特征标准化拿到数据先做三件事。缺失值处理SVM 不接受 NaN要么删样本要么用均值/中位数/插值填补。fitcsvm 本身不处理缺失值得自己来。类别不平衡如果正负样本比例超过 1:10模型会偏向多数类预测时少数类几乎全错。Matlab 支持在 fitcsvm 里设 ClassNames 和先验概率或者用 Prior 参数指定 uniform 让两类权重相等。% 填补缺失值用列中位数 X fillmissing(X, constant, median(X, omitnan)); % 处理类别不平衡设均匀先验 mdlBal fitcsvm(X, Y, KernelFunction, gaussian, ... Standardize, true, Prior, uniform);Prior 设 uniform 后两类先验概率相等少数类的误分类代价相对提高召回率会改善但精确率可能下降要看业务更在意哪个。如果数据里某类样本极少还可以用 Cost 参数给少数类设更高的误分类代价。特征标准化前面提过Standardize 设为 true 时 fitcsvm 内部会做但预测新数据时要用训练时的均值和标准差Matlab 的模型对象里存了这些信息predict 会自动处理不用手动再标准化。如果你在训练前自己做了标准化那预测前也要用同样的参数处理新数据否则量纲不一致预测结果会偏。3.2 训练、预测、评估一条能直接抄的脚本下面这段把分类预测的完整流程串起来从数据划分到评估指标输出% 假设 X 是 n×p 特征矩阵Y 是 n×1 标签 rng(42); % 固定随机种子保证可复现 % 1. 划分训练集和测试集留出 30% 做最终评估 cv cvpartition(Y, HoldOut, 0.3); Xtr X(training(cv), :); Ytr Y(training(cv)); Xte X(test(cv), :); Yte Y(test(cv)); % 2. 在训练集上做 5 折交叉验证选参数 mdl fitcsvm(Xtr, Ytr, KernelFunction, gaussian, ... Standardize, true, ... OptimizeHyperparameters, {BoxConstraint, KernelScale}, ... HyperparameterOptimizationOptions, ... struct(KFold, 5, MaxObjectiveEvaluations, 30, ... ShowPlots, false, Verbose, 0)); % 3. 在测试集上预测 [Ypred, scores] predict(mdl, Xte); % 4. 评估混淆矩阵和各项指标 cm confusionmat(Yte, Ypred); accuracy sum(diag(cm)) / sum(cm(:)); fprintf(测试集准确率: %.4f\n, accuracy); % 5. 画混淆矩阵 figure; confusionchart(Yte, Ypred); title(SVM 分类预测混淆矩阵);confusionmat 返回的矩阵对角线是正确分类数非对角线是误分类。准确率只是最粗的指标类别不平衡时它会骗人。要看每个类的召回率和精确率用 confusionchart 能直接显示。scores 是每个样本属于各类的决策值可以用来画 ROC 曲线调整阈值。回归预测的评估不一样用 RMSE、MAE、R²mdlReg fitrsvm(Xtr, Ytr, KernelFunction, gaussian, ... Standardize, true, ... OptimizeHyperparameters, {BoxConstraint, KernelScale, Epsilon}, ... HyperparameterOptimizationOptions, ... struct(KFold, 5, MaxObjectiveEvaluations, 30, ... ShowPlots, false, Verbose, 0)); YpredReg predict(mdlReg, Xte); rmse sqrt(mean((Yte - YpredReg).^2)); mae mean(abs(Yte - YpredReg)); r2 1 - sum((Yte - YpredReg).^2) / sum((Yte - mean(Yte)).^2); fprintf(RMSE%.4f, MAE%.4f, R2%.4f\n, rmse, mae, r2);回归里多了一个 Epsilon 参数控制 ε-不敏感带的宽度。Epsilon 越大模型容忍的误差越大支持向量越少模型越简单太小则容易过拟合。自动优化时把它一起搜进去比手动试快。3.3 预测新数据时模型对象里到底存了什么训练完的模型对象不是黑匣子里面存了支持向量、对偶系数、偏置、核参数、标准化用的均值和标准差。理解这些能帮你排查预测异常。比如预测结果全是一类可能是支持向量太少或者 KernelScale 设得太大导致决策边界太平。用 mdl.SupportVectors 看支持向量数量用 mdl.Beta 看线性核的权重用 mdl.Bias 看偏置。fprintf(支持向量数量: %d\n, size(mdl.SupportVectors, 1)); fprintf(偏置: %.4f\n, mdl.Bias); if strcmp(mdl.KernelFunction, linear) [~, idx] sort(abs(mdl.Beta), descend); fprintf(最重要的 5 个特征索引: %s\n, mat2str(idx(1:5))); end支持向量数量占训练样本比例太高说明模型复杂可能过拟合太低说明模型太简单可能欠拟合。线性核的 Beta 绝对值排序能看出哪些特征对决策贡献大这是 SVM 相比深度网络的可解释性优势。4. 避坑与排查SVM 预测里最容易翻车的五个地方4.1 预测结果全是同一类现象测试集上所有样本都被预测成多数类准确率看着不低但少数类召回为零。原因通常是类别严重不平衡或者 KernelScale 过大导致决策边界几乎是一条直线把所有样本推到同一侧。解决先看类别分布不平衡就设 Prior,uniform 或调 Cost再检查 KernelScale用自动优化重新搜或者手动把 KernelScale 降到 1 附近试。如果还不行看支持向量数量太少说明模型没学到东西可能需要换核函数或增加特征。4.2 训练准确率很高但测试准确率崩了现象交叉验证准确率 95%测试集只有 60%。原因基本是过拟合BoxConstraint 太大或 KernelScale 太小模型把训练集的噪声也学进去了。解决降低 BoxConstraint增大 KernelScale或者用自动优化让 Matlab 帮你找平衡点。另外检查是不是在划分数据前就做了标准化或特征选择导致测试集信息泄漏到训练过程。正确做法是先划分再在训练集上算标准化参数应用到测试集。4.3 标准化没做导致核函数计算失真现象模型训练很慢预测结果和预期差很远特征量纲差异大时尤其明显。原因RBF 核计算的是样本间欧氏距离如果某个特征数值范围是 0 到 10000另一个是 0 到 1距离几乎完全由大特征决定小特征等于没参与。解决fitcsvm 里设 Standardize, true让 Matlab 自动做 z-score。如果你在外部做了标准化确保训练和预测用同一套均值和标准差别各算各的。4.4 回归预测的 Epsilon 设错导致模型太钝或太敏感现象回归预测值几乎都落在均值附近或者波动剧烈和真实值对不上。原因Epsilon 太大模型只拟合大误差样本细节全丢Epsilon 太小模型对每个样本都较真过拟合。解决把 Epsilon 放进自动优化参数列表让交叉验证定。经验范围是目标值标准差的 0.01 到 0.1 倍可以先按这个试再让优化器微调。4.5 用 predict 时新数据特征顺序和训练时不一致现象预测结果完全乱套但模型在测试集上明明正常。原因新数据的列顺序和训练时的 X 不一致或者少了一列、多了一列。SVM 模型不检查列名只按位置对应顺序错了结果就错。解决把训练时的特征顺序记下来预测前用同样的顺序排好。如果特征多用表格数据类型table训练和预测Matlab 会按列名匹配避免顺序问题。% 用 table 训练列名自动匹配 T array2table(X, VariableNames, {f1,f2,f3,f4}); mdlTbl fitcsvm(T, Y, KernelFunction, gaussian, Standardize, true); % 预测时新数据也用 table列名一致 Tnew array2table(Xnew, VariableNames, {f1,f2,f3,f4}); predNew predict(mdlTbl, Tnew);5. 让 SVM 预测再稳一点几个我常用的进阶技巧自动优化出来的参数是个好起点但不一定是终点。我一般会在优化结果附近再做一轮细网格搜索比如优化给出 BoxConstraint3.2、KernelScale1.8就在 [1 2 3 4 5] 和 [1 1.5 2 2.5 3] 上再跑一遍交叉验证往往能再挤出一点准确率。这一步计算量不大但收益稳定。特征选择对 SVM 预测的提升经常比调参更明显。高维数据里大量无关特征会稀释核函数的距离度量先做一轮特征筛选再训练模型更简单也更准。Matlab 里可以用 relieff 或 fscmrmr 做过滤式选择也可以用 sequentialfs 做包裹式选择。我一般先用 relieff 快速筛掉明显无关的再用交叉验证确认。% 用 relieff 给特征打分取前 10 个 [idx, weights] relieff(X, Y, 10); topFeatures idx(1:10); Xsel X(:, topFeatures); fprintf(选出的特征索引: %s\n, mat2str(topFeatures));relieff 的第二个参数是近邻数分类问题一般取 10回归取 6 到 10 都行。weights 是每个特征的权重绝对值越大越重要。选完特征重新训练对比一下交叉验证准确率如果提升不明显甚至下降说明原始特征里没有太多冗余不用硬筛。模型保存和加载也是实际项目里绕不开的。训练好的模型用 save 存成 .mat下次直接 load 就能预测不用重新训练。注意保存时把训练用的标准化参数、特征顺序、类别标签一起存否则加载后预测容易出岔子。% 保存模型和元信息 save(svmModel.mat, mdl, topFeatures); % 加载并预测 loaded load(svmModel.mat); predNew predict(loaded.mdl, Xnew(:, loaded.topFeatures));最后说一个我踩过的坑别在训练集上评估模型然后拿去汇报。交叉验证准确率和测试集准确率是两回事前者用于选参数后者才是对未知数据的真实估计。我习惯在划分数据时就留出独立的测试集全程不碰只在最后评估一次。这个习惯帮我避免过好几次「实验室里 99%上线后 60%」的尴尬。希望帮到你。本文还有配套的精品资源点击获取 Matlab支持向量机SVM预测实战：分类回归、核函数调参、交叉验证与避坑指南
简介这份资源面向机器学习初学者与需要快速上手SVM的工程人员聚焦在Matlab环境下用支持向量机完成分类与回归预测。包内共6个文件以5个m脚本和1个txt数据文件为主压缩包约6KB体量轻便。脚本覆盖SVM训练、预测、核函数实现、SVR回归以及性能模拟评估等环节数据文件则提供可直接加载的特征与标签样本便于读者对照代码理解从建模到验证的完整流程。已有6968人学习下载说明其在入门实践中具备一定参考价值。读者可借此掌握核函数选择、惩罚参数与核宽调整等关键思路并借助评估脚本观察模型表现逐步建立对SVM预测流程的直观认识适合作为课程实验或自学练手的起点。1. 支持向量机做预测Matlab 里从数据到模型的那条最短路径手上有一批带标签的样本想预测新样本的类别或数值又不想一上来就堆深度网络支持向量机SVM往往是性价比最高的选择。它靠间隔最大化和核函数在小样本、高维、非线性场景里表现稳定训练完模型体积也小。Matlab 自带 fitcsvm、fitrsvm 这类函数配合 Classification Learner 工具箱几行代码就能跑通全流程。这篇笔记面向想用 SVM 做预测的工程师分类和回归两条线怎么选、核函数和超参数怎么调、交叉验证怎么做、预测结果怎么评估以及那些让人反复翻车的细节。读完你能在自己的数据上复现一套可用的 SVM 预测流程而不是停在调包跑通的层面。2. SVM 预测的两种形态分类与回归在 Matlab 里怎么落地2.1 分类和回归的差别先想清楚再动手SVM 做预测分两条路。分类是 fitcsvm输出离散标签比如设备正常/异常、邮件是否垃圾。回归是 fitrsvm输出连续数值比如房价、剩余寿命、传感器读数。两者数学骨架一样都是找一个决策函数让间隔最大区别在损失函数分类用 hinge loss 加松弛变量回归用 ε-不敏感损失允许预测值落在真实值 ±ε 带内不算误差。选哪条路只看标签类型。标签是类别名或整数类别走分类标签是连续实数走回归。常见误用是把连续值硬当类别塞进 fitcsvm比如把温度分成 20 个整数档结果模型学到的边界毫无物理意义。我一般先看标签的取值个数和分布取值少且离散分类取值连续且跨度大回归。Matlab 里两个函数的调用形式几乎对称% 分类标签是 categorical 或字符向量元胞 mdlCls fitcsvm(X, Y, KernelFunction, rbf, Standardize, true); % 回归标签是 double 向量 mdlReg fitrsvm(X, Y, KernelFunction, rbf, Standardize, true);X 是 n×p 特征矩阵每行一个样本每列一个特征。Y 分类时是 n×1 的 categorical 或 cellstr回归时是 n×1 的 double。Standardize 设为 true 会做 z-score 标准化这一步在特征量纲差异大时几乎是必须的否则核函数计算出的距离会被大数量级特征主导。2.2 核函数怎么选线性、RBF、多项式各自的适用面核函数决定 SVM 能不能处理非线性。线性核适合特征维度已经很高、样本线性可分或接近线性可分的场景训练快、可解释性强权重能直接看特征重要性。RBF 核是默认首选把样本映射到无穷维空间适合大多数非线性问题代价是要调两个参数核宽度 sigma 和惩罚系数 C。多项式核适合有明确交互项需求的数据但阶数一高就容易过拟合实际用得比 RBF 少。Matlab 里核函数通过 KernelFunction 指定可选 linear、gaussian即 RBF、polynomial。RBF 的核宽度由 KernelScale 控制它和 sigma 的关系是 KernelScale sqrt(1/(2*sigma^2)) 的倒数关系实际调参时直接调 KernelScale 就行不用自己换算。% 线性核高维稀疏数据追求可解释性 mdlLin fitcsvm(X, Y, KernelFunction, linear, Standardize, true); % RBF 核通用非线性场景指定核宽度 mdlRbf fitcsvm(X, Y, KernelFunction, gaussian, ... KernelScale, 2.5, BoxConstraint, 1, Standardize, true); % 多项式核明确需要交互项时 mdlPoly fitcsvm(X, Y, KernelFunction, polynomial, ... PolynomialOrder, 3, Standardize, true);KernelScale 越小决策边界越弯曲容易过拟合越大边界越平滑可能欠拟合。BoxConstraint 就是常说的 C越大对误分类惩罚越重间隔越窄也越容易过拟合。这两个参数要一起调单独调一个往往顾此失彼。2.3 用交叉验证把超参数定下来拍脑袋设参数是翻车的开始。Matlab 提供 fitcsvm 的自动超参数优化也支持手动交叉验证。自动优化用 OptimizeHyperparameters 指定要搜的参数内部做贝叶斯优化适合快速拿到一个不错的起点。% 自动优化 BoxConstraint 和 KernelScale mdlOpt fitcsvm(X, Y, KernelFunction, gaussian, ... Standardize, true, ... OptimizeHyperparameters, {BoxConstraint, KernelScale}, ... HyperparameterOptimizationOptions, ... struct(AcquisitionFunctionName, expected-improvement-plus, ... MaxObjectiveEvaluations, 30, ShowPlots, false, ... Verbose, 0, KFold, 5));MaxObjectiveEvaluations 控制搜索次数30 次在中小数据集上够用数据大或参数空间宽就加到 50 以上。KFold 是交叉验证折数5 折是常规选择样本少时用 10 折但计算量翻倍。ShowPlots 设 false 是为了脚本里不弹窗调试时可以打开看优化过程。手动交叉验证更可控适合你已经对参数范围有判断的情况CList [0.1 1 10 100]; sigmaList [0.5 1 2 5 10]; bestAcc 0; bestC 1; bestS 1; cvp cvpartition(Y, KFold, 5); for c CList for s sigmaList acc 0; for k 1:cvp.NumTestSets trIdx training(cvp, k); teIdx test(cvp, k); m fitcsvm(X(trIdx,:), Y(trIdx), ... KernelFunction, gaussian, ... BoxConstraint, c, KernelScale, s, ... Standardize, true); pred predict(m, X(teIdx,:)); acc acc sum(pred Y(teIdx)) / numel(teIdx); end acc acc / cvp.NumTestSets; if acc bestAcc bestAcc acc; bestC c; bestS s; end end end fprintf(最优 C%.2f, KernelScale%.2f, 交叉验证准确率%.4f\n, ... bestC, bestS, bestAcc);这段双重循环把每个参数组合都跑一遍 5 折交叉验证取平均准确率最高的组合。cvpartition 保证每折的类别比例和整体一致避免某折里全是某一类导致评估失真。参数网格别设太密先粗后细否则计算时间会失控。3. 从原始数据到可预测模型完整流程与评估3.1 数据准备缺失值、类别不平衡、特征标准化拿到数据先做三件事。缺失值处理SVM 不接受 NaN要么删样本要么用均值/中位数/插值填补。fitcsvm 本身不处理缺失值得自己来。类别不平衡如果正负样本比例超过 1:10模型会偏向多数类预测时少数类几乎全错。Matlab 支持在 fitcsvm 里设 ClassNames 和先验概率或者用 Prior 参数指定 uniform 让两类权重相等。% 填补缺失值用列中位数 X fillmissing(X, constant, median(X, omitnan)); % 处理类别不平衡设均匀先验 mdlBal fitcsvm(X, Y, KernelFunction, gaussian, ... Standardize, true, Prior, uniform);Prior 设 uniform 后两类先验概率相等少数类的误分类代价相对提高召回率会改善但精确率可能下降要看业务更在意哪个。如果数据里某类样本极少还可以用 Cost 参数给少数类设更高的误分类代价。特征标准化前面提过Standardize 设为 true 时 fitcsvm 内部会做但预测新数据时要用训练时的均值和标准差Matlab 的模型对象里存了这些信息predict 会自动处理不用手动再标准化。如果你在训练前自己做了标准化那预测前也要用同样的参数处理新数据否则量纲不一致预测结果会偏。3.2 训练、预测、评估一条能直接抄的脚本下面这段把分类预测的完整流程串起来从数据划分到评估指标输出% 假设 X 是 n×p 特征矩阵Y 是 n×1 标签 rng(42); % 固定随机种子保证可复现 % 1. 划分训练集和测试集留出 30% 做最终评估 cv cvpartition(Y, HoldOut, 0.3); Xtr X(training(cv), :); Ytr Y(training(cv)); Xte X(test(cv), :); Yte Y(test(cv)); % 2. 在训练集上做 5 折交叉验证选参数 mdl fitcsvm(Xtr, Ytr, KernelFunction, gaussian, ... Standardize, true, ... OptimizeHyperparameters, {BoxConstraint, KernelScale}, ... HyperparameterOptimizationOptions, ... struct(KFold, 5, MaxObjectiveEvaluations, 30, ... ShowPlots, false, Verbose, 0)); % 3. 在测试集上预测 [Ypred, scores] predict(mdl, Xte); % 4. 评估混淆矩阵和各项指标 cm confusionmat(Yte, Ypred); accuracy sum(diag(cm)) / sum(cm(:)); fprintf(测试集准确率: %.4f\n, accuracy); % 5. 画混淆矩阵 figure; confusionchart(Yte, Ypred); title(SVM 分类预测混淆矩阵);confusionmat 返回的矩阵对角线是正确分类数非对角线是误分类。准确率只是最粗的指标类别不平衡时它会骗人。要看每个类的召回率和精确率用 confusionchart 能直接显示。scores 是每个样本属于各类的决策值可以用来画 ROC 曲线调整阈值。回归预测的评估不一样用 RMSE、MAE、R²mdlReg fitrsvm(Xtr, Ytr, KernelFunction, gaussian, ... Standardize, true, ... OptimizeHyperparameters, {BoxConstraint, KernelScale, Epsilon}, ... HyperparameterOptimizationOptions, ... struct(KFold, 5, MaxObjectiveEvaluations, 30, ... ShowPlots, false, Verbose, 0)); YpredReg predict(mdlReg, Xte); rmse sqrt(mean((Yte - YpredReg).^2)); mae mean(abs(Yte - YpredReg)); r2 1 - sum((Yte - YpredReg).^2) / sum((Yte - mean(Yte)).^2); fprintf(RMSE%.4f, MAE%.4f, R2%.4f\n, rmse, mae, r2);回归里多了一个 Epsilon 参数控制 ε-不敏感带的宽度。Epsilon 越大模型容忍的误差越大支持向量越少模型越简单太小则容易过拟合。自动优化时把它一起搜进去比手动试快。3.3 预测新数据时模型对象里到底存了什么训练完的模型对象不是黑匣子里面存了支持向量、对偶系数、偏置、核参数、标准化用的均值和标准差。理解这些能帮你排查预测异常。比如预测结果全是一类可能是支持向量太少或者 KernelScale 设得太大导致决策边界太平。用 mdl.SupportVectors 看支持向量数量用 mdl.Beta 看线性核的权重用 mdl.Bias 看偏置。fprintf(支持向量数量: %d\n, size(mdl.SupportVectors, 1)); fprintf(偏置: %.4f\n, mdl.Bias); if strcmp(mdl.KernelFunction, linear) [~, idx] sort(abs(mdl.Beta), descend); fprintf(最重要的 5 个特征索引: %s\n, mat2str(idx(1:5))); end支持向量数量占训练样本比例太高说明模型复杂可能过拟合太低说明模型太简单可能欠拟合。线性核的 Beta 绝对值排序能看出哪些特征对决策贡献大这是 SVM 相比深度网络的可解释性优势。4. 避坑与排查SVM 预测里最容易翻车的五个地方4.1 预测结果全是同一类现象测试集上所有样本都被预测成多数类准确率看着不低但少数类召回为零。原因通常是类别严重不平衡或者 KernelScale 过大导致决策边界几乎是一条直线把所有样本推到同一侧。解决先看类别分布不平衡就设 Prior,uniform 或调 Cost再检查 KernelScale用自动优化重新搜或者手动把 KernelScale 降到 1 附近试。如果还不行看支持向量数量太少说明模型没学到东西可能需要换核函数或增加特征。4.2 训练准确率很高但测试准确率崩了现象交叉验证准确率 95%测试集只有 60%。原因基本是过拟合BoxConstraint 太大或 KernelScale 太小模型把训练集的噪声也学进去了。解决降低 BoxConstraint增大 KernelScale或者用自动优化让 Matlab 帮你找平衡点。另外检查是不是在划分数据前就做了标准化或特征选择导致测试集信息泄漏到训练过程。正确做法是先划分再在训练集上算标准化参数应用到测试集。4.3 标准化没做导致核函数计算失真现象模型训练很慢预测结果和预期差很远特征量纲差异大时尤其明显。原因RBF 核计算的是样本间欧氏距离如果某个特征数值范围是 0 到 10000另一个是 0 到 1距离几乎完全由大特征决定小特征等于没参与。解决fitcsvm 里设 Standardize, true让 Matlab 自动做 z-score。如果你在外部做了标准化确保训练和预测用同一套均值和标准差别各算各的。4.4 回归预测的 Epsilon 设错导致模型太钝或太敏感现象回归预测值几乎都落在均值附近或者波动剧烈和真实值对不上。原因Epsilon 太大模型只拟合大误差样本细节全丢Epsilon 太小模型对每个样本都较真过拟合。解决把 Epsilon 放进自动优化参数列表让交叉验证定。经验范围是目标值标准差的 0.01 到 0.1 倍可以先按这个试再让优化器微调。4.5 用 predict 时新数据特征顺序和训练时不一致现象预测结果完全乱套但模型在测试集上明明正常。原因新数据的列顺序和训练时的 X 不一致或者少了一列、多了一列。SVM 模型不检查列名只按位置对应顺序错了结果就错。解决把训练时的特征顺序记下来预测前用同样的顺序排好。如果特征多用表格数据类型table训练和预测Matlab 会按列名匹配避免顺序问题。% 用 table 训练列名自动匹配 T array2table(X, VariableNames, {f1,f2,f3,f4}); mdlTbl fitcsvm(T, Y, KernelFunction, gaussian, Standardize, true); % 预测时新数据也用 table列名一致 Tnew array2table(Xnew, VariableNames, {f1,f2,f3,f4}); predNew predict(mdlTbl, Tnew);5. 让 SVM 预测再稳一点几个我常用的进阶技巧自动优化出来的参数是个好起点但不一定是终点。我一般会在优化结果附近再做一轮细网格搜索比如优化给出 BoxConstraint3.2、KernelScale1.8就在 [1 2 3 4 5] 和 [1 1.5 2 2.5 3] 上再跑一遍交叉验证往往能再挤出一点准确率。这一步计算量不大但收益稳定。特征选择对 SVM 预测的提升经常比调参更明显。高维数据里大量无关特征会稀释核函数的距离度量先做一轮特征筛选再训练模型更简单也更准。Matlab 里可以用 relieff 或 fscmrmr 做过滤式选择也可以用 sequentialfs 做包裹式选择。我一般先用 relieff 快速筛掉明显无关的再用交叉验证确认。% 用 relieff 给特征打分取前 10 个 [idx, weights] relieff(X, Y, 10); topFeatures idx(1:10); Xsel X(:, topFeatures); fprintf(选出的特征索引: %s\n, mat2str(topFeatures));relieff 的第二个参数是近邻数分类问题一般取 10回归取 6 到 10 都行。weights 是每个特征的权重绝对值越大越重要。选完特征重新训练对比一下交叉验证准确率如果提升不明显甚至下降说明原始特征里没有太多冗余不用硬筛。模型保存和加载也是实际项目里绕不开的。训练好的模型用 save 存成 .mat下次直接 load 就能预测不用重新训练。注意保存时把训练用的标准化参数、特征顺序、类别标签一起存否则加载后预测容易出岔子。% 保存模型和元信息 save(svmModel.mat, mdl, topFeatures); % 加载并预测 loaded load(svmModel.mat); predNew predict(loaded.mdl, Xnew(:, loaded.topFeatures));最后说一个我踩过的坑别在训练集上评估模型然后拿去汇报。交叉验证准确率和测试集准确率是两回事前者用于选参数后者才是对未知数据的真实估计。我习惯在划分数据时就留出独立的测试集全程不碰只在最后评估一次。这个习惯帮我避免过好几次「实验室里 99%上线后 60%」的尴尬。希望帮到你。本文还有配套的精品资源点击获取