唐纳德·特朗普的推文没有说谎我一直在玩唐纳德·特朗普(Donald Trump)发送的推文数据库( http://www.trumptwitterarchive.com/archive )。 从1月1日开始的每天推文数量来看,事实证明它们遵循Gamma分布(谁知道)。



上面的PDF和CDF图上的绿线是拟合的伽玛分布。
查看数据,事实证明,唐纳德每天发送5条或更少的推文并不像我想的那样不寻常。 除上周五和周六外,自1月以来已有6天的推文少于5条;
- 1月5日-2条推文
- 1月8日-1条推文
- 2月16日-3条推文
- 3月8日-4条推文
- 7月20日-3条推文
- 8月21日-4条推文
每天的推文中位数为30。
拟合了伽马分布之后,我们可以得出任何特定数量的推文的可能性。 周五,周六和周日发推文的可能性为;
- 星期五-2条或以下推文-可能性0.27%,或0.4%以下,置信度为97.5%
- 星期六-3条或以下推文-可能性0.69%,或1.0%以下,置信度为97.5%
- 周日-9条或更少的推文-可能性7.3%,或10.2%或更少,置信度为97.5%
星期一,他发了31条推文。 到目前为止(今天星期二10/6),他已发布了45条推文。 显然他感觉好些了。
结合上述3种可能性,周五至周日的低发推文数量自然发生的可能性为0.0004%(百万分之4)或更少,而置信度为97.5%。
我想不出一个比总统每天发推文次数更适合衡量总统福祉的指标。 他病得很重。 他的推文没有说谎。
我不确定具有特定置信度的数据点组合规则。 似乎将3个概率与97.5%的置信度伤口相结合,得出的概率远高于97.5%的置信度。 谁能对此有所启示? 另外,如果任何人都可以在我的分析中看到错误(可能有很多),请随时指出它们。 我已附上原始数据,因此您可以自己使用。
分析工具回复:唐纳德·特朗普的推文不会说谎您是否尝试过简单的每日推文计数I / mR图表?回复:唐纳德·特朗普的推文不会说谎嗨,P,我还没有尝试过。 我考虑过,但对控制图了解不多。 如果您想试用原始数据并将其发布,则原始数据将附加到原始数据。
回复:唐纳德·特朗普的推文不会说谎好决定@P_Bartell这是I,MR图表的图片。 发推数不一致。 数据中有一些异常之处。 数据的可靠性如何? 从数据算起的那天起,我们如何确定数据? 但是肯定的是,当事件最近发生时(您试图将原因归因于“感觉好与不好”的那条推文)的数目并不罕见(因此,每个Shewhart都无法分配)。

回复:唐纳德·特朗普的推文不会说谎谢谢@statman 。 感谢您整理图表。 是的,积分很可靠。 他们来自http://www.trumptwitterarchive.com/archive如我的原始帖子中所述。 我同意推文的数量不一致(我不希望任何人的每日推文数量是一致的),但是这些数字是准确的。
我一直在考虑这一点,但我认为I,MR图不是进行此分析的正确工具。 控制图对遵循正态分布的参数起作用。 如我的帖子所述,推文的数量不是遵循正态分布,而是遵循伽马分布,该分布严重偏向右侧。 由于我正在研究的异常现象发生在分布的左侧,因此I,MR图表没有出现也就不足为奇了。
我认为我的原始分析比我的MR图表更合适,但我对此很是错误的,并且非常乐意听取其他人的反馈和建议。
回复:唐纳德·特朗普的推文不会说谎控制图不假定(或要求)正态分布有效。 请参阅Wheeler and Chambers的“了解统计过程控制”或Shewhart的“制成品质量的经济控制”或“在危机中确定P. 334-335”。 为了快速阅读,Wheeler and Neave的论文“ Shewhart的图表和概率方法,1996”将明确指出这一点。
关于您的声明“ (我不希望任何人每天发送的推文保持一致)”,不一致和一致与大变化之间存在很大差异。 为什么不期望任何人的推文中出现随机变化?
不用争论,但是您如何知道这些数字是准确的还是可靠的? 该数字是否包括已删除或审查的推文? 将一条5条推文(由于一条推文的长度所限)的消息算作5还是1? 谁负责维护引用的网站? 他们与任何政治组织无关吗?
回复:唐纳德·特朗普的推文不会说谎感谢您开阔眼界@P_Bartell和@statman 。
我已经阅读了一些控制图,现在了解到分布不一定必须是正态的,但是如果非正态分布,则需要进行一些调整。 当控制极限(在statman图表中的控制极限下限每天为-22.6条推文)在物理上不可能时,显然存在问题。
继续假设每天的推文数量遵循伽马分布,我根据与正态分布控制图中的概率相同的概率选择了区域限制(区域A的概率为15.9%和84.1%,区域B的概率为2.28%和97.72% ,以及0.135%和99.865%)。 10月初的两点被突出显示为失控,因为它们违反了规则3(A区中3分中的2分)。

很抱歉给您带来的困惑。 我不太确定“ tweets#前后不一致”是什么意思。 我同意,如果这些点不是正常分布的,那么它们似乎是按照伽马分布分布的。
感谢您要求我仔细检查数据源。 根据网站本身,它包括从1/27/17起所有已删除的推文。 在此之前,他们每小时检查一次Donald的twitter帐户,因此可能会错过已发布并很快被删除的推文。 由于自1/27/17起,他们会实时检查帐户,因此请先捕获推文,然后才能将其删除。 我不认为是否将一条消息拆分到多个推文中是有意义的,因为这是数据自然变化的一部分。 数据集肯定符合我在Twitter上看到的最新推文。 如果您发现我错过了一些偏见,请分享。
总而言之,我认为控制图是突出显示应该研究的数据区域的好方法。 我认为这不是生成部分数据的特定可能性的好工具。 尽管存在关于如何从组合数据点产生单个置信度水平的开放性问题,但我进行的分析似乎更适合于此。 如果有人对如何产生这种信心有深刻的了解,或者看到分析中的缺陷或执行它的更好方法,请分享。
回复:唐纳德·特朗普的推文不会说谎Roly,永远乐于帮助人们“开阔眼界”!
也许更宽泛...您的声明“现在了解分布不一定是正态的如果不正常,则需要进行一些调整“”是不正确的,并突出显示了对控制图方法学的主要误解(如果您不同意,也许可以在文献中找到支持您的论点的部分)。 如果问题是列举性的,那么我会对分布(以及与之相关的概率)感兴趣,但是由于问题是分析性的,因此分布几乎没有影响。 我建议你读定义“关于概率作为行动依据”,美国统计学家,1975年11月,第1期。 29,第4号。诚然,将控制下限截断为0似乎更为合理,但大多数(如果不是全部)用户在评估图表时会意识到这一点。 该软件只是在做数学运算而无需考虑解释。 我要说的是,即使不是全部,所有统计输出都需要在上下文中解释!
关于您的评论:
“对一贯的混淆感到抱歉。 我不太确定“ tweets#前后不一致”是什么意思。 我同意,如果这些点不是正常分布的,那么它们似乎是按照伽马分布分布的。” 我了解这个概念很难理解。 也许这就是为什么许多人不知道如何正确使用控制图的原因。 我再说一遍,不一致与分布无关。 p。 359,戴明,“摆脱危机”。 Shewhart控制图的优点在于它们没有分布。 它们以图形方式显示时间序列中的数据(这在任何分布分析中都将丢失!)。 “分布仅表示过程性能的累积历史,而与它的功能无关...可以通过使用控制图而不通过分布来实现并确认过程的能力”,戴明,“摆脱危机,第314页。 范围图回答了这个问题:子组内的变化(由于变量在子组内变化)是否一致,稳定并因此可预测? 在本参考资料中一致表示预期的变化量。 对于MR图,要回答的问题是相似的:连续数据点中的变化(由于变量在连续数据点之间变化)是否一致,稳定且可预测? 因此,当我说推文数量不一致时,这意味着发布推文的过程是不可预测的,随机且不稳定的。 很难有把握地用任何枚举统计来总结此过程,也很难做出任何概率陈述,因为统计/概率将取决于什么时候您查看了数据。
关于数据源...您可能无法回答谁发送了这些推文,只是他们来了一些注册到“ Donald”的帐户。 我不了解推文的实际数量,也不知道是谁发的。 测量过程中是否存在偏见? 数字准确吗? 我无法回答。 但是我可以建议一个抽样计划以提供见识。
具有相关概率的分布分析不适用于不一致,非随机且不可预测的过程。
我再次引用戴明的话(上面引用的论文:):
书中讲授的方差分析,t检验,置信区间和其他统计技术,无论多么有趣,都是不适当的,因为它们没有提供预测依据,而且因为它们掩盖了生产顺序中包含的信息。 所谓的大多数(即使不是全部)用于数据分析的计算机软件包,提供了效率低下的明显例子。”
回复:唐纳德·特朗普的推文不会说谎嗨,比尔。 我发现您的帖子非常令人困惑,并且花了几天时间对这些帖子进行了思考,然后才做出回应。
我最近发现最困惑的部分是“您无法回答谁发送了这些推文,只是他们来了某个注册到“ Donald”的帐户而已”。 http://www.trumptwitterarchive.com/archive声称是@realDonaldTrump的帖子的存档。 当我查看与我的Twitter feed上列出的最新帖子时,它们会匹配。 我没有浏览列出的54K帖子,并检查它们是否都匹配,但是所有我检查过的都匹配。 我同意检查数据源的准确性是关键。 但是,我更喜欢使用数据而不是if。 如果您发现存档不是@realDonaldTrump的推文的准确记录,或者@realDonaldTrump发送的推文不是来自我们的总裁,请分享。
您显然对我在控制图上了解得更多,但我仍在为您的声明而苦苦挣扎,因为“由于问题是可分析的,所以分布无关紧要”。 我非常同意统计输出需要在上下文中进行解释,并且需要考虑的上下文之一是原始数据所遵循的分布。 我无权访问您参考的书或论文。 如果您可以共享指向他们的链接,那将有所帮助。 我用于调整非正常数据的控制图的参考是https://www.spcforexcel.com/knowledge/variable-control-charts/control-charts-and-non-normal-data 。 在他们概述的4种方法中,第4种(如果分布是正常的,则调整区域限制以匹配其百分位数)对我而言似乎最适合这种情况,并完全解决了我最初担心的下限控制在物理上无法实现的问题。
我确实设法找到了Wheeler和Neave的论文“ Shewhart的图表和概率方法,1996年( http://www.spcpress.com/pdf/DJW088.pdf )。 一个非常有趣的阅读。 感谢你的分享。 从论文中我看到,我对区域进行的调整意味着图表不再像Shewhart所期望的那样成为真正的控制聊天。 但是,我无法克服控制图产生一个物理上不可能实现的控制极限的问题(每天的负面推文)。 这消除了控制图区分均值以下数据点的受控变化和非受控变化(其目的)的能力。 也许我们都可以同意,控制图不是调查@realDonaldTrump在10/2上仅发送2条推文和在10/3上仅发送3条推文的可能性的合适工具(抱歉@P_Bartell )。
除非您想讨论的更多,否则我将停止在此主题上发布,并设置一个新主题,向我提出有关如何结合置信度限制进行连续观察的原始问题。
感谢您花时间来回复我的帖子。 非常感谢您的反馈。
回复:唐纳德·特朗普的推文不会说谎我也会将此作为我的最后回应。 我只能说我尝试过。 对不起,我无法传达自己的观点。 以下是指向报告的链接,这些报告说@realDonaldTrump发出的推文可能不仅来自总统。
https://www.npr.org/2018/04/19/603904858/who-is-the-mystery-man-behind-realdonaldtrump-besides-the-president
https://www.wired.com/story/tell-when-someone-else-tweets-from-realdonaldtrump/
https://www.wnycstudios.org/podcasts/takeaway/segments/president-trumps-tweet-co-pilot
谷歌一下。 如果您不信任测量系统,则不确定您对哪种分析有信心?
我已经为您提供了正确使用和解释控制图方法的多种来源。 是的,有很多不当使用控制图的例子。 此报价来自您的参考资料“您是否听说过必须先正态分布数据,然后才能使用控制图绘制数据?在谈论个人控制图时,您经常会听到此消息。这是一个神话。在使用控制图之前,不必按正态分布数据,包括单个控制图。 ”。
戴明的“走出危机”( https://mitpress.mit.edu/books/out-crisis )
德明的论文: https://www.jstor.org/stable/i326388
舒瓦特的书: https://books.google.com/books?id=EoynRAl0Po4C&source=gbs_similarbooks
顺便说一句,您似乎只使用了2020年的数据。这是2009年以来的推文图。 它也有多个类别,分别是“原始”,“重新推文”,“答复”,“链接/图像”,“推文”。
