探索大型資料集中的相關性<meta http-equiv="Content-Type" content="text/html; charset=UTF-8" />我正在使用 JMP pro 並處理工廠製程變數的大型資料集,我想探索它們如何影響工廠中的生產或其他一些性能參數。 有沒有關於如何開始此操作的指南或資源? 我一直在 YouTube 上瀏覽 JMP 視頻,但它們並沒有深入分析。 S哦,遠方,我只是發現我應該「篩選預測因子」以減少我正在考慮的因素的數量。 不確定下一步是否適合回歸模型或進一步使用 PCA、成對相關性等探索數據,或者我是否需要小心在選擇正確的分析之前,如果我的數據不是正常數據或有很多零。
此外,我還看到了一些使用規範對應分析 (CCA) 來探索與 R 中的資料(例如我的資料)的相關性的漂亮圖。 JMP 中有類似/更好的東西嗎?
我對這種分析很陌生,所以有什麼想法你有關於如何開始會有所幫助。 謝謝。
回覆:探索大型資料集中的相關性https://community.jmp.com/docs/DOC-9923
上面的插件是查看 x-by-y 相關性的另一個選項。 我最近在一個過程資料專案中使用了它。
回覆:探索大型資料集中的相關性有一個很棒的 JMP 插件,名為 Scagnostics。我經常使用它來幫助查看大型資料集中的相關性結構。
回覆:探索大型資料集中的相關性我假設您從某種資料倉儲/歷史記錄系統繼承了這些數據,並且您有很多列,或者可能有很多行。 您花了多少時間從以下角度審視數據品質:
1. 異常值? 查看此問題的好地方是在 Cols -> Modeling Utilities -> Explore Outliers 路徑中。
2. 缺失值? 查看此問題的好地方是在 Cols -> Modeling Utilities -> Explore Missing Values 路徑中。
3. 如果您有無意義的值,例如「9999」代碼...請考慮使用 JMP 的 Cols -> Utilities -> Recode 路徑來修復/修復這些值。
4. 作為最後的資料品質操作,如果您認為要繼續建立預測模型,請確保使用 JMP Pro 的列 -> 建模實用程式 -> 建立驗證列平台來建立驗證列,其中包含(如果適用):訓練、驗證和測試構造。
資料品質/清理完成後,您可能會發現幾個有用的 JMP Pro 平台。 每個人在陽光下都有自己的位置。使用聚類進行主成分分析,擬合模型-> 偏最小二乘,擬合模型-> 廣義回歸(然後根據每種情況的具體情況選擇您的子人格),如果構建和評估模型,請確保調用缺失值插補(如果需要且適當)並利用您建立的驗證列。 其他 JMP 建模平台也可能很有價值...我在這篇文章中只關注 JMP Pro 的想法。
回覆:探索大型資料集中的相關性1. 資料的轉換需要逐列處理。當轉換後的資料進行分析時,統計資料能夠正確計算參數。不使用轉換後的值來報告資料。
2.我發現確定正確轉換的最佳方法是使用JMP中的分佈平台,並在紅色三角形下請求,
連續擬合==>全部
它將為您提供資料分佈的結果,然後您將能夠以轉換後的狀態保存資料。如果它發現最能描述資料的分佈沒有可用的轉換,那麼您可能想看看 GLog(廣義對數)轉換是否可以幫助您。
3. 如果您有目標響應變量,我已使用 Bootstrap Forrest 和 Boosted Tree 來查找用於配對資料的列。 它們不需要常態分佈的資料。
回覆:探索大型資料集中的相關性感謝大家提供的寶貴資訊。 我有一些關於轉換資料的後續問題:
1.據我了解,你們改造了一些列,但沒有改造其他列? 難道所有數據不都應該以相同的方式進行轉換以進行下游分析嗎?
2. 我有一些列有很多零。 對數轉換似乎標準化了一些數據,但將零轉換為缺失資料。 不確定是否有簡單的方法可以做到這一點,或者有一些關於如何在 JMP 中處理此問題的指南。
3. 如果標準化資料不可能或不必要,是否有首選方法或應避免的方法(PCA?)來進一步分析此類資料?
我猜轉換和篩選之後的步驟將是使用「擬合模型」平台中最強的貢獻者並比較模型?
回覆:探索大型資料集中的相關性你好凱倫@boulderstats 。
領域(過程專家)+方法(分析專家)是一個很好的合作夥伴。
我很喜歡你,並從你身上學到了很多東西分析演講片段上週 !
我還從 JMP 社群專家那裡學到了很多東西,他們非常善於提供指導。
非常感激。
- Randy,JMP 新手
回覆:探索大型資料集中的相關性吉姆提供了一些很好的步驟供您考慮。 您也可以使用控制圖產生器(對於此類數據,我將使用列切換器,以便您可以逐步瀏覽變數)。 查看控製圖的原因是過程資料具有時間元素。處理資料很有趣,但並不總是那麼容易(考慮到時間延遲、遺失資料等,資料本身很複雜)。 我發現,當您作為一個至少包括一名分析專家(即具有統計背景的人)和一名流程專家(真正了解流程的人)的團隊合作時,這些數據就會創造價值。
回覆:探索大型資料集中的相關性我通常會採用以下方法來篩選大數據:
1. 我對所有資料運行分發平台,以查找有多少資料有高度偏差。如果我有大量行,我會傾向於刪除異常值以嘗試標準化資料。其他時候或除此之外,我會改造那些麻煩的欄位。我使用腳本來減輕這方面的麻煩。
2.下一步是篩選掉多餘的列。我通常為此使用 3 個不同的平台。
A。如果資料已經或已經轉換為非常粗糙的範式,PCA 就非常有用。
b.響應篩選提供了一個很棒的輸出數據表,真正讓我感受到了數據
C。 Bootstrap Forrest 分區顯示哪些欄位是我將要進行的詳細分析的最強潛在貢獻者。