什麼時候不應該使用預測因子篩檢?我很好奇是否有任何時候您不應該使用預測篩選工具,如果是這樣,您應該檢查哪些數據以了解您在使用預測篩選工具時是否可能遇到問題?
基礎資料分析與建模回覆:什麼時候不該使用預測因子篩檢?我發現預測因子篩選非常有價值,但就像任何自動化工具一樣,它無法解釋某些事情。當您有許多潛在的預測變數時,它是最有價值的 - 但是,當這些預測變數密切相關時,我不太信任自動化程式。我發現這是一個常見問題,我的資料集具有許多密切相關的度量(例如,多個不同時間點的酒店可用性)。如果您僅使用預測變數篩選,您可能會獲得最密切相關的措施,或者可能會選擇其中的一些措施。或者,可能沒有一個會脫穎而出(我不確定那個)?在這種情況下,我所做的就是使用多元平台手動分析密切相關的預測變數。然後我可以選擇一種相關措施用於預測因子篩選。
還有其他更複雜的情況。預測器篩選不會確定您是否應該建立新變數作為現有變數的函數(例如兩個度量的比率)。它不會讓你知道是否應該重新編碼一些名義變數(我也不確定這個 - 我還沒有嘗試過)。一般來說,我想說預測器篩選不會取代所有正常的資料清理步驟 - 它在清理資料後使用時最有價值。
回覆:什麼時候不該使用預測因子篩檢?謝謝。我還發現它非常寶貴,所以我想知道它可能在哪裡失敗,以及如何檢查該失敗?我對(我認為)它所基於的引導森林模型了解不多,但簡要閱讀了它不像線性模型那樣容易受到多重共線性的影響,但也準備好如果您與以下對象存在線性關係,它可能會失敗響應和預測變量,或者如果你缺乏獨立同分佈,但我不知道你如何在預測篩選器中檢查這些假設,或者情況是否確實如此,因為我對這些類型的數據分析相當陌生。如果 JMP 有一個關於在假設檢查等方面要尋找什麼的教程,那就太好了。
回覆:什麼時候不該使用預測因子篩檢?嗨@mjz5448 ,
根據我之前就類似主題撰寫的回复,我可能會添加一個補充答案來闡明所給出的一些信息:
預測篩選器與 DOE?
預測篩選
預測篩選問題
預測因子篩選是一種基於隨機森林演算法的方法,可協助您識別歷史資料中回應的重要變數(透過計算特徵重要性來識別)。根據數據的代表性、實驗空間的覆蓋範圍、缺失值、異常值的存在、因素之間的相互作用、相關性或多重共線性,該平台可能有一些捷徑、許多未知因素,不應盲目信任(如上所述)作者: @dlehman1 )。
- 您可以透過此分析獲得的分析和見解僅限於歷史實驗空間(這可能太有限和/或不能代表對系統的良好理解)。您可以將其視為生產實驗空間(歷史數據)與研發(DoE):在生產中,只允許因素的微小變化(有些是固定的,因此您將無法確定它們的重要性)來創建穩健且優質的產品,而研發的目標是不同的:透過使用更大的考慮因素範圍來探索實驗空間並優化系統的因素。
- Predictor 篩選平台不會為您提供模型(與 JMP Pro 中提供的 Bootstrap Forest 不同),僅提供特徵/因子重要性,因此您無法存取單個樹和分支,這可以幫助識別因子之間的相互作用,並且用於分割的因子的閾值水平。
- 由於您不知道背後模型的品質(透過 R²、RMSE 或根據您的目標的其他相關指標),因此您不知道透過它解釋了多少變異性(或模型的準確度)以及是否特徵重要性的計算與您的主題相關/足夠。
- 由於所有因素均已排序,因此重要因素和非重要因素之間的閾值/限制並非微不足道。為了幫助您,您可以新增一個隨機因子(具有隨機值)。這裡顯示了該技術的一個示例,其中使用來自JMP 的鑽石數據集,以價格作為響應,添加隨機因子並省略克拉重量作為可能的輸入(因為它是一個非常重要的預測變量,所以我想向您展示一個很難實現的範例)整理其他預測變數):

- 該平台不會向您提供有關因素之間可能存在的相關性或多重共線性的指示。您可以使用多元平台來探索輸入、輸出和輸入輸出之間的相關性。您也可以建立虛擬迴歸模型來計算因子之間的 VIF 分數,以便發現多重共線性。
- 高基數分類因素也可能使特徵重要性計算產生偏差。基數(類的數量)越多,偏差就越高,因為數據將形成模型將嘗試學習的大量小組/類。因此,它將無法概括或“理解邏輯”,從而增加過度擬合的機會,從而使該功能變得非常重要。
這裡的範例具有相同的資料集、相同的條件,但增加了11 個層級的隨機分類因素(從A 到K,名為「Shuffle[Column10])。這種具有高基數的分類隨機特徵的排名高於之前看到的隨機數值變數:

關於您關於多重共線性的問題:
- 變數之間的多重共線性在隨機森林中透過每個節點的隨機特徵子集選擇來處理:在每個節點,為了確定下一個分割,您隨機建立特徵的子集並在該子集中評估哪個特徵(以及在哪個閾值水準) )能夠根據資料點的反應值最好地分離資料點。因此,由於每個特徵都有平等的機會被選擇,因此甚至可以選擇相關的特徵,並且在模型中具有相似的特徵重要性。此過程最大限度地減少了列之間相關性的影響,並且不適用於決策樹(或提升樹),在決策樹(或提升樹)中,使用在每個節點測試的所有特徵創建一棵樹:只能選擇一個相關特徵來分割。
- 由於隨機森林創建了一個基於在引導樣本上並行訓練的許多決策樹的大模型,因此每棵樹都在稍微不同的資料集上進行訓練,這也有助於減少每棵樹之間的相關性(行之間的相關性)並減少模型變異數。
有關基於樹的模型的更多資訊:
https://community.jmp.com/t5/Mastering-JMP/Understanding-and-Applying-Tree-based-Methods-for-Predictor/tac-p/593506/highlight/true#M370
關於隨機森林的優點: https://www.linkedin.com/posts/victorguiller_doe-machinelearning-randomforests-activity-7127557799810625536-FH7K
希望這個補充性的回答能幫助你,
回覆:什麼時候不該使用預測因子篩檢?謝謝維克多_G。我很欣賞對多重共線性的洞察——這不是我通常會考慮的事情,但我會在未來嘗試這樣做。
如果您的資料不是獨立同分佈(獨立且同分佈),您是否知道預測因子篩選是否有效?我讀過,如果您的數據具有時間序列趨勢,基於樹的/隨機森林模型就有局限性,這是可以克服的,但您需要如何轉換數據。我不確定這是否適用於預測因子篩選,因為我剛剛了解這個主題。
回覆:什麼時候不該使用預測因子篩檢?嗨@mjz5448 ,
隨機森林可用於時間序列預測(也可用於其他演算法)。
非獨立同分佈資料的最大預防措施是在資料分割(訓練)中考慮資料中的依賴性/組,是否來自相似觀察/個體的組、時間依賴性、測量重複等...... /驗證/測試)。非獨立同分佈資料的錯誤資料分割可能會導致資料外洩、錯誤期望和過於樂觀的結果。
通常對於時間序列預測,應該進行用於訓練和驗證的特定資料分割(不是隨機的,而是更多地以“時間視窗”樣式),以便尊重響應/資料的時間結構依賴性,並且存在設定中沒有資料外洩:訓練中沒有使用「來自未來」的數據,這會導致過度樂觀的預測。
一些閱讀資源:
https://machinelearningmastery.com/random-forest-for-time-series-forecasting/
https://mindfulmodeler.substack.com/p/how-to-deal-with-non-iid-data-in
希望這個回答對你有幫助
回覆:什麼時候不該使用預測因子篩檢?謝謝維克多_G。我會看看。