欢迎大家,感谢大家的收看。今天,我们来观看一部《大话王》电影,看看里面到底是些什么谎言,还是更多的谎言,或者仅仅是统计数据。我开个玩笑。简单介绍一下我们的背景:我是克拉克·莱德贝特,一名系统工程师。StatSense 的统计学家梅根·彭宁顿也和我们一起。
简单介绍一下背景,我之前在Y-12公司报道联邦政府时认识了梅根。如果你是奥本海默的粉丝,你就会知道我们所有的浓缩铀-235都是Y-12公司生产的。去年我们去现场的时候聊过,我问了Y-12公司的安保情况。你们是怎么进行采访的,以及其他一些事情的?梅根,你之前提到过你们使用测谎仪数据。
是的,我们有测谎仪来检查背景。
我当时就觉得很惊讶。我当时就想,测谎数据。啊?看看这个应该挺有意思的,看看我们能不能做些什么。因为我觉得测谎仪这玩意儿真是个大坑,人为干预太多了。梅根,我们有什么数据?
您没有获得 Y-12 的测谎数据,但很方便的是,我有一个客户实际上会进行测谎,所以我们今天将查看他的数据集。
好的。太棒了。我来看下一张幻灯片。
测谎仪的本质是通过记录生理症状来判断一个人是否在说谎,因为人们认为,当身体有压力时,你会看到这些生理症状的峰值。测谎仪需要一些基本的检测传感器,比如血压、心肺出汗。你可以根据需要添加任意数量的传感器,比如检测脚部运动、手臂运动、咬牙切齿等。设置不同,测谎仪的性能可能会有所不同。
我们看一下设置。
这是一个典型的设置。它有六个传感器。在我们的数据集中,你会看到我们有12个传感器。你可以看到这里有一个血压袖带。胸前挂着一些用于监测呼吸的装置。还有汗液传感器。设置时会有很多变化,你必须考虑到不同体型的人。你每次设置都一样吗?可以重复吗?
我想,如果我以过程工程师的身份来看——因为我就是从那里来的——这里面肯定充满了变数。这些人到底懂不懂测量系统分析、量具重复性和重复性?
遗憾的是,没有。
没有,很遗憾,没有。你提到我们有12个传感器,那还有什么?脚部运动、座椅运动。我们把所有传感器都连接在这里了。
从测谎仪测量一开始,测谎员就可以自由选择自己的提问技巧,直到他们开始使用相关的、无关的技巧。基本上,相关的问题与你试图弄清楚他们撒谎的事情有关。无关的问题与此完全无关。人们的想法是,嗯,我们会在相关问题上看到峰值,而不是无关问题。事实并非如此。这真的有缺陷,因为人是人。他们会因为连接到所有这些设备而感到焦虑。数据中充满了噪音。
他们提出并开发了控制问题技术,该技术仍然使用相关和不相关的问题,但他们添加了他们知道答案的控制问题,并将其作为与相关和不相关问题进行比较的基线。
还有另一种手法。比如说有人谋杀了人,或者偷了东西。他们会使用隐瞒信息的手法,因为这种方法能准确地找出对方撒谎的原因。不过好消息是,我们州没有杀人犯。
好的。我正要确认一下。我们这里没有提交任何谋杀案的证人。
今天不行。测谎仪检查员可以选择不同的技术。他们可以混合搭配,也可以组合使用各种方法。一切都取决于测谎仪检查员。在我们的数据集中,我们将研究CQT技术。
带有 12 个传感器的 CQT。我们来看看这些数据是什么样的?
我们来看看。这是来自所有传感器软件的图形输出。每个传感器都有各自的曲线。您可以看到,我们突出显示了呼吸和心肺功能。绿色和灰色条形是检查员提问的地方。灰色和绿色条形是受试者实际回答问题的地方。
有几种方法可以在软件中分析这些曲线。一种是软件自带的算法,但它实际上是个黑匣子。我们不知道里面到底在做什么。我们也不知道他们用了什么。此外,检查员可以根据他们接受过专业训练的眼力做出自己的判断。
用眼球。
他们所做的就是进入那里,观察高峰和低谷,并根据正规培训做出自己的个人评估,无论这是否重要。
这些区域的计时,考官也是靠眼睛来做的吗?
当考官认为他们已经开始提问时、当他们结束提问时以及当考官认为该人已经开始回答时和结束回答时,他们实际上会按下空格键。
我害怕。太多了。我不会把我的真心话或谎言交给这个家伙。
这里存在着很大的可变性。
结果怎么样?结果是什么样子的?
当他或她浏览并评分数据集时,他们会给出-2到2的评分,以1为增量,2表示更严重。你可以看到,他们实际上以随机顺序问了这些问题三次。他们试图在其中加入一些随机化的方式,以帮助解决一些差异性问题。然后,他们把这些数字加起来,根据这些主观数字来判断这是真话还是假话。
这是他们自己的得分吗?
这是他们根据自己的专业训练制定的评分方法。
这就是我所闻到的。我闻到了人为错误的味道。
当然。然后是我之前提到的算法,也就是你会看到的报告,它会指示出真相还是谎言。你可以看到他们用到了一些多项式、概率和一些花哨的统计术语。幕后肯定有事情发生,但我们真的不知道是什么。
未知。我们有一位考官正在自己做调整。我不知道。我觉得我们可以用一些 JMP Pro 工具来尝试消除这种人为差异,效果会更好。您觉得呢?
我想我同意。
替代方法和 JMP。我们想在这张幻灯片上简要介绍一下工作流程。当然,大多数分析,所有分析都应该从清理和可视化开始。我们将探讨一些我们花费大量时间的挑战,实际上这个清理步骤是在可视化之后进行的。
正如我之前提到的,我们有很多传感器。哪些是重要的?哪些是关键的?我们查看了预测筛选平台,试图筛选出一些。
我一直在跟梅根讲解函数数据探索器(Functional Data Explorer)和曲线传感器分析。我觉得这个工具是自切片面包发明以来最棒的东西。我确信这会是一个大成功。我们本来可以边做边想,但结果发现它没什么用。这是我们尝试使用的工具之一。我稍后会详细讨论一下。
自从FTE解散后,我们开始研究模型筛选平台,这个平台非常棒,因为它可以包含大量的预测模型,然后让JMP决定哪一个才是最合适的。一旦我们找到了最佳拟合模型,值得一提的是,我们有一个包含已知真值和已知假值问题的控制数据集,我们在模型筛选平台中用它来确定最佳模型。然后,我们把这个模型应用到真实数据中,我们并不知道它是真还是假。
在这一步,这些数据什么也看不到。我们拿出了最好的模型,把它扔到真实数据上。让我们从高层次上看一下我们经历的工作流程和一些平台,然后我们可以进行一些演示。当然,我们必须导入数据。我稍后会再谈谈数据清理。我确实利用了一些分布。当然,分布是为了理解各种图表。Megan 提到我们有三个人,多个图表。我们在那里扫描了一下,但关键在于查看这些传感器趋势以及它们在 Graph Builder 中的具体表现。
正如我提到的,我们利用预测因子筛选平台只是为了尝试了解哪些因素更为重要且至关重要。这只是一个简单的观察。我们发现,EA、有氧运动、足部和坐位运动最为显著。实际上,汗腺和有氧运动似乎在所有文献中都具有显著意义。它们似乎是最重要的因素。JMP 也认同这一点。
即使对这些一无所知,我们也发现了这些信号,这非常令人鼓舞。我们其实并不需要知道所有这些事情。
确切地。
现在,如果大家还不知道函数数据探索平台是什么,可以想象一下我们获得的这些曲面传感器。它们本质上只是一些点。这个平台的作用是拟合一条样条曲线。我们称之为函数模型,但它会将这条样条曲线拟合到每一条独特的曲线上。目标是观察这些输入是如何改变整条曲线的,以及它们是如何改变检查员的操作的。我来看一下。我觉得这个更高。这里的目标是我们能否在整个形状中拾取信号。
最终效果是这样的。你会看到这个。这是汗腺信号随时间的变化。我正在真假之间切换。我们正在观察这个信号。不幸的是,你在这里看不到重复的结构。它开始感觉像是噪音。我们会在演示中举一个例子。
正如我们提到的,FDE 并没有像我们期望的那样取得如此大的进展。我们考察了模型筛选平台。正如我提到的,你可以从众多模型中进行选择。真正令人震惊的是提升树。然后你可以看到这个平台上有大量的分析选项。这真的很棒。我们非常注重决策阈值,因为我们试图确定,是让说谎者说真话更重要,还是让说真话者说假话更重要?我们正在研究那些假阳性和假阴性。
我们原本以为无法真正确定哪一个更重要。我们想选择一个最小化两者的决策阈值。最终结果是0.55。你可以在图表的红色和绿色部分看到,红色代表错误分类,绿色代表正确分类。有了这个模型后,我们实际上将其输入到真实数据集中进行验证。
我们先把 JMP 关掉,来看看这个工作流程的一些亮点吧。我来打开 JMP。这是原始数据表。还记得第一步吗?我们想做一些可视化。我要在这里打开图形生成器。我有一个列切换器,可以切换所有这些传感器。首先,我们扫描一下这些信号,看看我们是否看到了一些具有独特结构的信号。它看起来像噪音吗?诸如此类。
有一个信号。我们提到了汗腺。如果我停下,转到汗腺,你就会明白,这个本地数据过滤器,有三个人和三张图表。尝试及时弄清楚这很有趣。考官开始了测试,并及时跑过这里。我们必须弄清楚这些的顺序是怎样的。
接下来的关键挑战是分解,找到每个传感器的起止点。这需要使用功能数据探索平台。如果我们要使用它,我需要将这些曲线分块,并将它们全部放到同一个 x 轴上。我们在这方面做了很多清理工作。你也会注意到,如果我引入这个趋势,我就会开始对计量学产生怀疑。有些事情正在发生。有些事情正在偏离。
让我们来看看。如果我们把个体也算进去,我们开始看到不同的方法,甚至不同的行为。我对这里的实际测量系统以及它的运行情况感到怀疑。这是我们输入到FDE中,看看它是否有效的一个信号。让我们实际看看FDE平台。
我们尽了最大努力。我们在这个平台上查看了所有不同的信号。然后我真正想做的是从头开始研究汗腺,这样大家就能看到这个工具的功能,以及我们遇到的问题。我打算从头开始研究汗腺。我会先分析专门的建模,然后再使用功能数据探索器 (Functional Data Explorer)。
现在,我的输出是我的传感器。我要去抓取原始汗腺数据,X 输入是我们的运行时间。函数 ID 是运行 ID。让 JMP 知道我们必须分割补充变量的每条独特曲线。我们想看看真假数据是否会影响这条曲线。还有什么需要补充的吗?
我认为是个人。
应该可以。这是随机效应。
确切地。
我先在这里添加个人数据。然后点击“确定”。一开始,你必须在这个平台上进行可视化。你会看到这是我们看到的基线偏移。当你开始查看每个原始数据时,你看不到太多信号。我们尝试了很多不同的转换和清理工具,直到筋疲力尽。
例如,在这个光谱图中,我们做了基线校正。我们添加了线性拟合。你会看到它的影响。我们能够……一切都归结到一个共同的尺度。你开始看到一些特征和信号。我想我们甚至在这里也尝试过一个单一的正常变体。你开始看到信号,但问题是……我们甚至离原始信号还很远。我们只是在不断偏离。
这开始看起来像噪音了。如果我回去看看我的EA原始数据分析器。如果我花了很长时间和精力才搞定它,就把它关掉。你会看到这里。这是我的EA原始信号,一个汗腺随时间的变化,我可以切换真假。然后,当我在不同个体之间切换时,我开始没有真正地从中发现什么独特的特征。
为了比较,我将向您展示一个好的有限差分(FDE),以便您大致了解它应该是什么样子。这是铝的应力应变图。这里我只展示轮廓仪。这个例子源于一个研究铝合金应力应变的设计实验。
我们应该这样看。他们在温度和不同样本类型方面存在一些批次差异。你可以看到,当我切换这个选项时,我的应力应变是可重复的。我看到了一些独特的特征。我来到这里,开始看到一个看起来不同的独特特征。我们用FDE做不到这一点。甚至尝试导出FPS并使用预测建模工具。但并没有得到一个好的模型。我们尝试过了。Megan,我觉得这将是自切片面包发明以来最好的东西。所以我就这么做了。
我们确实这么做了。我们花了很多时间——
我们接下来要去哪里?
我认为我们利用了 JMP 的模型筛选平台。
好的。就这样吧。我让你分享。
太棒了!谢谢,克拉克。就像你说的,我们最终选择了模型筛选平台。我们最终使用了预测因子筛选中发现的四个最重要的输入项,分别是有氧运动、EA、座位运动和足部运动。我会教你如何设置。你去预测模型筛选。
我们试图判断真假。然后,我们将分析那四个实际显示有意义的传感器输入。原始座椅运动、足部运动和心肺功能。完美。您可以在这里看到所有可用的方法。我们分析了所有内容。为此,我只需设置提升树。然后我们实际上也做了一些k倍验证。这需要一些时间来运行。我要去这里。我已经运行过了,可以节省一些时间。开始吧。
正如我之前提到的,这个平台衍生出了大量分析技术。我们真正关注的是这个决策阈值。正如我之前提到的,我们试图最小化红色区域的数量,正如你所见,随着我沿着真值的概率阈值移动,红色区域会发生变化。我们希望精确地找到两条曲线的交点,从而最大限度地减少误分类(假阳性或假阴性)的数量。
我们在这里使用了 0.55。完成后,我们就可以导出预测公式了,你可以去红色三角形,在这里保存列,保存预测公式。这就是我们导入真实数据集的结果。好的,克拉克,你想……
让我回到这里,我会再分享一次。这是实际数据,你会看到我们有四个问题。流程仍然类似。三张不同的图表,对吗?Megan?
是的。
他们仔细检查了我们的做法。他们重新排序。我们把那些公式拿过来。它们在数据表的末尾。这是我们的公式。这是我们最可能的分类。然后,我们在此基础上讨论如何以最简单的方式对 A、B 和 C 类个体进行分类。他们说的是真话还是在撒谎?
我基本上只是做了一个简单的统计,先统计每个人,然后统计每个问题。我们统计的是每个问题对应一个问题。如果我们仔细看看,就让我回到我们的演示。关键问题是谁是匹诺曹。以下是我们最终对这三个人进行的直接评估,基于全新的数据。
记住这个阈值,这是谎言与真相的比例。当你接近这个50%的阈值时,你说谎的可能性就开始下降。梅根,我的结论是:A说的是真话,B和C是骗子。我说得对吗?我们预测得对吗?
对。我们将考官和软件算法进行了匹配。
我们这样做没有任何人为的判断。
绝对地。
这就是我所说的。如果我们把整件事总结一下,我认为这是最大的收获之一。这不仅仅是谎言,而是统计数据。如果用Pro Tools里的这些方法,能把所有的人为因素和判断都剔除掉,我可能会去申请测谎仪。但就目前的情况来看,我不会这么做。梅根,你对此有何看法?
另一个好处是分析时间。他通常需要几天时间,而我们缩短到了几分钟,这让我们赚了更多钱。我们都喜欢多赚钱,所以这一点毋庸置疑。
哦,当然。我们到这里就结束了,我们了解了当前的测试方法和算法的现状。我们该如何改进它?下一步该如何改进?
下一步是实验设计 (DOE),我们需要为不同的个体设置不同的传感器设置和配置。基本上,我们还会考虑考官认为的时间,以及考官提问的时间和考官回答问题的时间。考官所关注的灰色和绿色区域,存在很大的可变性。我们也会考虑这一点。
我们又回到原点了?所有这些预测模型,我们又回到了实验设计。对我来说,我不知道自己是不是工艺工程师。这才是我们应该开始的地方。是的,我们应该这样做。是否进行DOE,这不是问题。我们在去年的发现中讨论过这个问题。我想今天就到这里了。我们将开始提问。