Bootstrap森林調整參數、分割數與預測公式親愛的 JMP 和社區：
（W10 企業版、JMP Pro 15.0.0）
我很好奇引導森林建模的哪些調整參數會影響每個因素的分割數量。 我熟悉如何使用調整表等來優化擬合以最大化擬合，例如驗證集的 R^2。 在下面突出顯示的六個參數中，哪一個可以影響拆分數量（來自列貢獻）？
如果您查看引導林的報表輸出，您會發現「列貢獻」中有一個名為「拆分數」的欄位。 如果將這些分割相加，就會給予森林中的分割總數。 單獨來看，這些是模型在給定參數上分裂的次數。
如果您隨後開始查看可以保存在資料表中的公式的詳細信息，則有時公式中計算參數的次數與該參數的拆分次數之間可能存在差異。
例如，如果一個參數有 1000 次分割，則它應該在公式中出現兩次，總共 2000 次，這是有意義的。 但這種情況並不總是發生。 我懷疑這是由於調整參數之一造成的，但我不確定。 如果不是，還有什麼會影響這個？
舉一個具體的例子，以下是擬合的列貢獻的螢幕截圖，並將其與 2* 分割數以及公式中計算該參數的次數進行比較。 可以看出，參數在公式中出現的次數（例如，X_1 為 12626）與 2* 分割數（X_1 為 12636）不符。 有時很接近，有時則相當大（參見“差異”欄）。 此外，有趣的是差異總和為零。 因此，無論是什麼導致了這種差異，都會以這樣一種方式進行“加權”，即它實際上不會改變分割的總數，只是改變它們的分配方式。
我發現非常有趣的是，在公式中，參數 X_11 被發現比 2* 分割數多 276 倍。 對我來說，這表明在某些分割中，它不是均勻地決定 X_11，而是決定另一個參數。 而且，這樣做的方式是使分割總數保持不變。 它是否與每次拆分採樣的條款或最小拆分大小有關？ 我嘗試了一些手動測試，但無法確定其中任何一個如何影響分割數量。
順便說一句，我將公式複製到 Word 中，並對參數 X_1、X_2 等進行簡單計數。考慮到公式的大小和樹的數量，我無法手動搜尋找到是什麼原因造成的。 不幸的是，據我所知，無法使用文字資源管理器或 JMP 中的類似工具來計算公式。
我們非常感謝 JMP 開發人員或社群建模者的任何回饋。
謝謝，
DS
回覆：Bootstrap森林調整參數、分割數與預測公式你好@Byron_JMP ,
是的，我知道分割次數是演算法選擇在該特定變數上分割樹的次數。 如果您更深入地研究寫入列中的公式，您會發現列貢獻中報告的拆分數量並不總是恰好是公式中計算的 X 因子的乘積的 1/2。
您可能會認為樹決策可能類似於（僅作為範例）：
如果（缺（X_1）| X_1 <= 32, 41, 35）
如果每個決策都是這種情況，那麼您預期 X_1 在公式中出現的次數恰好是 2*與該因子關聯的分割數。
但是，如果決策樹看起來比較像：
如果（缺（X_1）| X_3 > 16, 20, 18）
那麼您可能會遇到這樣的情況：樹在該變數上的分割次數與其在公式中出現的次數不同。 當決策樹建立時，什麼可能推動這一點？
在原始貼文的特定情況下，您可以看到因子 X_1、X_2 和 X_7 相互平衡，使得「差異」欄位中的值相加總和為 0。 當所有其他 X 因素的差異相加時，情況也是如此。
因此，在這種情況下，公式中因子 X_1 的使用量實際上比「貢獻列」中的「分割數」列所報告的少 5 倍（差值/2）。 同樣，對於 X_2 和 X_7，它們在公式中分別使用了 124 次 MORE 和 119 次 LESS。 如果將它們相加：5 + (-124) + 119 = 0。
是否可能缺少資訊？ 恕我直言，這太「完美」了，不可能是巧合。 我只是無法弄清楚調整過程的哪個部分要為此負責。
至於你的問題：
1. 我使用 DOE 空間填充均勻選項產生一組至少 60 次運行（是我要更改的因子數量的 10 倍）。 然後，我複製 DOE 幾百次並運行它——我通過腳本來完成它，這樣它就不會消耗我所有的 RAM。 運行可能需要幾天時間。
2. 我將原始資料表分成 80/20 訓練/測試資料集。 然後，我將原始資料表拆分為僅訓練表和僅測試表。 我使用訓練表並使用大約 0.18 到 0.25 的資料集之間的隨機保留來驗證模型擬合。 同樣，我透過腳本來完成這一切，這樣我就可以找到調整的最佳值並將其用作驗證部分。 我經常發現精確的 80/20 訓練/驗證分割並不像稍微偏離的那樣最佳，例如 0.79/.21。 您通常可以在驗證集上獲得更好的 R^2。
謝謝，
DS
回覆：Bootstrap森林調整參數、分割數與預測公式這可能不是一個非常令人滿意的答案，但分割次數只是變數是分割分支的最佳位置的次數的計數。
實際上並不能控制變數可以拆分多少次。
也許有幾個問題要回饋給您：
1. 您如何建造轉台？您使用了多少次轉盤？
2. 當你調整時，你是針對整個資料集還是隨機子集進行調整？
-您在子集中使用的資料比例是多少（如果使用）
您對公式中使用的參數名稱的觀察很有趣。 我可能會稍微研究一下。
