JMP 13 Pro 中的增强神经网络我发现 JMP 13 手册对神经网络增强过程的描述很模糊。 这是它的一个快照:
“第一步是拟合单层、两节点模型。 该模型的预测值按学习率缩放,然后从实际值中减去以形成缩放残差。 下一步是安装不同的一层,两节点基于先前模型的缩放残差的模型。”
我不明白 JMP 如何使用预测值的残差。 数学公式或图表可能非常有帮助。
JMP 是否将残差添加到定义的特征中并再次训练网络?或者单独训练残差链式网络? 例如,如果我有 10 个特征,并且我正在尝试预测单个连续响应,并且我的网络有一个包含 3 个神经元(也称为节点)的隐藏层;增强网络中的第一个神经网络的形状为 [10, 3, 1]。 现在,JMP 计算最后一层的残差(真实值 - 预测值)。 现在,残差会怎样? 第二个网络的形状是什么,它的输入是什么以及它预测什么?
感谢您提前抽出时间。
回复:JMP 13 Pro 中的增强神经网络好的,谢谢你的澄清。
提升的第二阶段使用与第一阶段相同的预测器。 不同之处在于它的响应是否合适。 在第二阶段,响应是第一阶段的残差。
结果是您为每个提升再次添加相同数量的隐藏节点。
菲尔
回复:JMP 13 Pro 中的增强神经网络假设我从 100 个不同的测量值(列)和 200 个观察值(行)开始尝试预测 1 个连续响应(列)。 我假设第一个神经网络将接收所有 100 列并输出 1 个预测。 第二个神经网络会接收 1 列残差并输出 1 列预测吗?
回复:JMP 13 Pro 中的增强神经网络你好,你能澄清一下:100 个“测量值”是 100 个变量(列)还是 100 个观察值(行)?
谢谢,
菲尔
回复:JMP 13 Pro 中的增强神经网络菲尔您好,谢谢您的回复。 第二个神经网络的输入对我来说仍然有点不清楚。 那么,即使我的初始数据集有 100 个测量值并且我将它们用作特征,您是否会说第二个神经网络将仅使用 1 个特征(残差)?
回复:JMP 13 Pro 中的增强神经网络您好,机器学习中 boosting 的一般方法是首先为 Y 拟合一个“弱预测器”模型。 然后下一个模型适合第一个模型的残差。 这两个模型的组合是比任何一个原始模型更好的模型。 假设 Y(预测)和 Y(实际)之间仍然存在残差,则第三个模型将拟合这些残差,然后与模型 1 和 2 组合。 这种情况一直持续到拟合优度停止改善(根据您使用的测量方法)。