具有顯著LoF的重要模型親愛的JMPers,
我想我有挑戰!:)
它是一個具有顯著LoF結果的重要模型。我已經嘗試了JMP社區中建議的所有內容,添加了交互,更高階的術語並排除了一些結果(潛在的異常值)來糾正LoF。問題是:X1,X2和X3高度相關。我寧願在模型的最後保留這3個因素,以達到設計空間,但這不是必須的。
所以我最終得到了2個模型(多元線性回歸):
- 第一個更簡單,沒有相互作用 - 只保留了X3,VIF很低但對Y1,Y2和Y3仍然是顯著的
- 第二個有相互作用 - 所有X1,X2和X3都保存在方程式中,具有顯著的相互作用。Y1具有非顯著的LoF,但對於Y2和Y3不同。.. 此外,VIF在Y3中增加很多,而且分析器並不精彩......
注意:運行不是來自DoE(它是經驗性的)。
所以一般來說,模型(標準最小二乘)看起來對我很好。但似乎我需要在LoF +殘差正常性或低VIF +模型的簡單性之間達成折衷。
我在這裡錯過了什麼嗎?我可以改進模型並修正LoF結果嗎?
提前感謝您的建議,
瑪塔
Re:具有顯著LoF的重要模型有趣的數據。

你似乎有一些非常有影響力的觀察以及高共線性。這兩個問題都是多元回歸的麻煩。

你沒有那麼多獨立的信息。
共線性使得確定重要性變得非常困難。


極低的槓桿率意味著數據值的微小變化可以在統計數據中產生非常大的變化(例如,參數估計和t比率)。
Re:具有顯著LoF的重要模型通過不使用線性預測器和回歸可以避免一些問題。這是一個簡單的神經網絡模型的結果(一個隱藏層中的5個隱藏節點都使用雙曲正切激活函數):

模型預測似乎相當準確:

該模型似乎很好地描述:

Re:具有顯著LoF的重要模型你好 @markbailey !謝謝你寶貴的建議!事實上,我從未考慮過神經網絡。我相信你是對的,這似乎是這種情況的完美解決方案。
無論如何,當我嘗試在我的JMP中重現時,我總是得到X2的正斜率而不是你的負數(我知道正確的應該是負的!)。有什麼建議嗎?
Re:具有顯著LoF的重要模型我無法確定是什麼原因導致這種斜坡逆轉但我有一些想法。有三件事需要考慮。首先,對訓練和驗證集的觀察分配是隨機的,因此該過程將導致結果變化,儘管如果數據集非常大,差異通常很小。
其次,你的數據集不是很大!您可以想像,如果每次有1/3的數據被隨機保留以進行驗證,那麼結果就不一樣了。此外,您的一些變量只有兩個或三個級別。有些級別只發生過幾次。這一事實將使運行之間的差異進一步複雜化。對於驗證方法,您可以嘗試使用K-fold交叉驗證而不是Holdout。使用此驗證方法,您可以使用5到10倍的效果。
第三,不能完全避免共線性的影響。X2與X1和X3高度相關。給定保持驗證方法,2/3行的隨機子集可以改變斜率。
模型建設是認真,細緻的工作。我之前的回復是一個建議,而非收費的全面諮詢。(這不是討論的目的!)在您信任並分享您的發現之前,您需要了解任何建模技術。但我希望這個討論足以讓你開始。
Re:具有顯著LoF的重要模型確實,它很有用。我從不非常熱衷於神經網絡,因為很難真正理解背後的東西,但現在我很好奇。我必須學習更多並深入研究這個問題。我也很快就會有新的結果,我可以嘗試預測它們,比較並驗證它是否真的有效。週末愉快!