在提升樹上使用驗證數據我開發了一個帶有提升樹的預測模型。 我有 30,000 行訓練數據。 我有 10,000 條“驗證”數據。 我如何通過模型運行驗證數據集(我的模型中有超過 800 個變量,因此獲得“公式”不切實際)。 請提供交互式解決方案(不是腳本)。實驗設計回复:在提升樹上使用驗證數據我的偏好是附加測試數據(使用連接 - 保存預測公式列並選中復選框以評估公式後)。您不想將測試數據設為驗證集,因為它將用於開發模型。JMP 將自動區分訓練數據、驗證數據和測試數據之間的模型性能。
我仍然對您反复提及模型的複雜性感到擔憂。通常,JMP 可以處理相當複雜的公式列。如果它足夠複雜,導致 JMP 評估它時出現問題,那麼我擔心您是否應該使用該模型。如果您有數百萬行,則可能是硬件限制 - 但如果有 30,000 行,則應該不會有問題,除非您的模型中有太多變量。正如您所建議的,您的模型中可能有大約 800 個變量,我懷疑這可能會導致某些預測模型出現問題。然而,我最初的反應是,您真的不想要一個包含 800 個因子和只有 30,000 個數據點的模型(如果您使用驗證和測試數據集,則數據點會更少)。當然,您可以使用更少的因素獲得具有幾乎相同性能的模型。因此,我認為第一步是建立一個更易於管理的模型。
回复:在提升樹上使用驗證數據這是我現階段的想法。 如果您想要評估 JMP 數據表中的模型,則只需將新的“測試”預測變量集和響應附加到包含該模型的數據表即可。 我會給新的行集一個獨特的繪圖符號,這樣在您生成的任何圖中您都會知道這些是“新”行。 “預測”列將填充“測試”預測變量的值,然後我只需使用圖形生成器來獲取實際值與預測值,然後看看您看到什麼。 也許為“訓練”和“測試”中使用的行放置一個本地數據過濾器?
回复:在提升樹上使用驗證數據這聽起來有點令人困惑,但我會在下週重新上線時嘗試。
謝謝。
回复:在提升樹上使用驗證數據啊哈!
回复:在提升樹上使用驗證數據快速問 - 我有一個完全獨立的測試數據集。 我是否將它與
原始數據集(即附加它)-然後通過我的模型運行它?
如果我這樣做 - 我是否需要硬編碼/創建一個帶有 1 秒的驗證列進行測試
和 0 進行訓練(或驗證)以使模型運行? 我也不太
熱衷於創造“公式”——因為它對於
程序來管理。 這種想法有道理嗎?
我真的只是希望能夠從模型運行測試集,而不是
很知道怎麼做。 (另外,我將在下週(不是本週,
不幸的是) - 因為我有探望家人。
我的感謝
回复:在提升樹上使用驗證數據需要補充的一點進一步說明@dale_lehman的第二個回复。 他正確地指出,當您創建用於行驗證類別規範的列(即驗證列)時,所有操作都將在您運行平台時由分析平台自動處理。 結果將包含在用於訓練、驗證和測試數據子集的各種平台報告元素中。 Dale 遺漏的部分是,當您創建“驗證”列時,您必須在對話框中闡明您想要創建所有三個類別(訓練、驗證和測試)以及分配每行的方法。 聽起來您有相當多的觀察結果,因此純粹的隨機分配可能是一個不錯的起點。
回复:在提升樹上使用驗證數據你的回复沒有幫助,但還是謝謝你。
回复:在提升樹上使用驗證數據預測因子篩選是了解哪些變量很重要的良好第一步。 請參閱腳本索引中的腳本,了解其工作原理。
我首先會對原始表進行採樣以減少行數(主菜單:表->子集...)
有了這個子集,您可以在短時間內嘗試多項事情,保存有前途的想法的腳本,並稍後將它們應用到大型數據集。
Names Default To Here( 1 );
dt = Open( "$SAMPLE_DATA/Boston Housing.jmp" );
obj = dt << Predictor Screening( Y( :chas ), X( :crim, :indus, :nox, :rooms, :age, :distance, :radial ) );
回复:在提升樹上使用驗證數據如果您使用預測建模平台中的工具創建驗證列,則 JMP 會自動在訓練、驗證和測試數據上運行您的模型。所以,您不需要做任何進一步的事情。現在,您對模型運行問題的評論是另一回事 - 聽起來模型存在問題,我懷疑模型中有 800 個變量反映了需要糾正的問題。我會尋找減少功能數量的方法。
回复:在提升樹上使用驗證數據我會嘗試一下。
然而,由於模型太大,預測公式似乎根本無法運行——它似乎使程序停滯了。 最後,當我確實想運行測試數據時 - 我該如何運行它? 非常感謝 - ksfire1
回复:在提升樹上使用驗證數據我不明白你的問題。如果您有驗證列並將其放入“驗證”框中,則會報告驗證數據的模型結果。我同意你可能想要一個更簡單的模型並且你應該嘗試不同的模型的觀點。我想補充一點,您可能需要留出 10% 的數據作為測試數據,因為驗證數據用於構建模型,並且存在過度擬合的危險,尤其是模型中有 800 個變量時。因此,我建議將數據分解為訓練、驗證和測試數據集,運行各種模型,並使用模型比較功能來查看模型在測試數據上的表現。一旦您保存了所有模型的預測公式,這種比較就應該自動進行。
回复:在提升樹上使用驗證數據有了公式,一切就變得容易了。 你試過了嗎? 發生了什麼事?
我假設您使用 JMP Pro。
您是否嘗試過構建一個不太複雜的模型? 您是否嘗試過預測篩選或其他變量減少技術? 或者其他建模技術?
為了獲得最好的模型,應該比較不同的技術/變量集。