目标函数是最小化损失函数：
损失函数：
，损失函数越小，拟合的越好。
风险函数：是损失函数的期望，输入与输出遵循联合分布，但是分布未知。可以用训练集来参考，训练集的平均损失成为经验风险，即
,最小化经验风险函数；
结构风险函数： 最小化经验风险函数导致过拟合，这时候就需要结构风险最小化。用一个函数来度量模型的复杂度，称为正则化
最终的目标函数为：
最小化经验风险与机构风险
本文共 235 字，大约阅读时间需要 1 分钟。
目标函数是最小化损失函数：
损失函数：，损失函数越小，拟合的越好。
风险函数：是损失函数的期望，输入与输出遵循联合分布，但是分布未知。可以用训练集来参考，训练集的平均损失成为经验风险，即,最小化经验风险函数；
结构风险函数： 最小化经验风险函数导致过拟合，这时候就需要结构风险最小化。用一个函数来度量模型的复杂度，称为正则化
最终的目标函数为：最小化经验风险与机构风险
转载于:https://www.cnblogs.com/fanhaha/p/7341626.html