异常值检测你好
如果我想计算分类问题中神经网络预测的残差来检测异常值
我应该使用什么公式来计算残差?
该软件可以做到这一点吗?
高级统计建模预测模型和机器学习回复:异常值检测嗨@maryam_nourmand ,
如果您使用模型来预测连续数值,某些模型允许您直接将残差保存在数据表中,方法是单击红色三角形,选择“保存列”,然后选择“残差”。对于神经网络,您需要一些手动工作,将预测公式保存在表中(红色三角形,“保存公式”或“保存快速公式”),然后使用公式创建新列“残差”:实际值 - 预测值
请注意,单击红色三角形时,您已经可以选择在神经网络平台中绘制“预测残差”图。
如果您使用模型来预测类别,您将没有残差,但您会有关于错误分类和计算概率的信息。然后,您可以保存这些概率列(与之前相同的选项),并尝试了解错误在哪里,例如通过绘制预测的主要类别的概率,看看是否需要调整分类概率阈值。
如果您对评估分类模型感兴趣,还有各种图表可以帮助您评估分类模型的性能: ROC 曲线、 提升曲线、 混淆矩阵……
希望这个答案能帮助你,
回复:异常值检测但我们可以在逻辑回归中计算残差
这也是一种分类模型
我附上了计算偏差残差的公式的图片
现在我想知道什么时候使用神经网络来解决分类问题
我该如何计算残差呢?
回复:异常值检测实际上,您可以计算广义线性模型中的偏差: 模型选择和偏差的统计细节
例如,在 JMP 数据集“洗涤剂”中,使用“品牌”作为分类响应 Y,我可以选择直接计算偏差残差并将其保存在数据表中:

离差是统计模型拟合优度的指标,其中模型拟合是通过最大似然法实现的,这可能不适用于使用不同损失函数的机器学习模型: 离差(统计) - 维基百科
因此,对于某些模型,使用不同的拟合函数可能无法计算它。
回复:异常值检测那么机器学习模型中统计模型中的残差的等价概念是什么?
但我认为机器学习模型中每个类别都有概率,所以我们也应该可以计算残差
回复:异常值检测残差分析不仅用于统计模型来评估预测性能,还用于验证其正确使用背后的假设: 回归模型假设 | 统计学简介 | JMP
在机器学习模型中,通常没有那么“严格”的假设,因为我们不假设真正的关系是线性的,误差是正态分布的,等等……
使用机器学习模型背后的一个普遍假设仍然是数据是 iid 的: 独立且相同分布的。其他假设更多地与特定算法的使用及其学习数据的方式有关。您可以在此处阅读更多相关信息:
- https://www.kdnuggets.com/2021/02/machine-learning-assumptions.html
- 机器学习系列中的归纳偏差: https://mindfulmodeler.substack.com/p/from-theory-to-practice-inductive
任何分类模型都会计算数据点属于每个类别的概率。根据指定的阈值(例如,对于二元分类,阈值 > 0.5),它将输出与最高类别概率相对应的预测类别。计算和可视化预测概率可能有助于您更好地定义预测类别输出的阈值,并帮助您评估模型是否正确区分了类别。
我不知道是否存在一种度量或方法可以直接使用这些预测概率来计算 JMP 中的某种残差?
回复:异常值检测
如果你找到一种方法直接使用这些预测概率来计算 JMP 中的某种残差,或者找到一种方法不仅仅是在 JMP 中使用这些预测概率来计算残差,请在这篇文章中告诉我们
谢谢
回复:异常值检测您可以计算 Brier 分数。但也许您应该多说一点您到底想做什么。有很多方法可以测量和评估分类模型的准确性。我发现残差是最不直观的,因为分类模型会产生概率,并且每个观察结果要么被正确分类,要么被错误分类。错误分类的概率越大,模型就越差(我认为残差可以衡量这一点 - 但我认为有更直观的方式来看待它)。那么,您想用残差做什么?
回复:异常值检测我想检查我的模型预测响应的能力有多好
回复:异常值检测您将问题描述为分类模型。JMP 将计算每个观察结果的离散结果的概率(最好使用验证并关注验证数据而不是训练数据)。您可以使用这些概率来计算诸如 Brier 分数之类的度量,或者您可以使用上面描述的各种方法来衡量模型的准确性。我真的不明白您所说的残差是什么意思,也不明白您为什么要关注这些。假设您的分类模型是二进制的:预测响应 0 或 1。您的模型将产生 1 的概率 - 假设该概率为 0.6。现在,假设特定观察的实际分类为 0(或者,1)。您将如何称呼这个观察的“残差”?如果它是正确的预测,比如 1,那么概率越接近 1,您的模型就越“好”。如果它实际上是 0,那么模型的概率越接近 1,您的模型就越“差”。 Brier 分数是一种常用的方法来衡量模型的好坏(我不相信 JMP 会计算 Brier 分数 - 至少我没有见过 - 但手动计算应该很容易)。或者,AUC、错误分类率、AIC 等都是 JMP 随时提供的衡量模型好坏的指标。
但是,您对“残差”的关注远非实现确定“我的模型可以多好地预测响应”目标的最直观方法。当您有一个连续响应变量而不是分类模型时,残差是一种自然的确定方法,而 JMP 可以轻松计算这些类型模型的残差(内置在红色三角形中用于保存列,或者仅使用 ABS(实际预测)创建一个列)。