小樣本資料探勘...小樣本迴歸？<meta http-equiv="Content-Type" content="text/html; charset=UTF-8" />親愛的所有 JMP 專家，我知道這種討論可能既愚蠢...非常愚蠢又是一個熱門問題...但我認為提出它會很好：哪些類型的線性和非線性回歸當您的樣本量較小（例如50-70 筆記錄）並且您想要從5-7 個預測變數（分類變數和連續變數）預測連續結果時，JMP 是否可以提供k 折交叉驗證逐步線性迴歸或偏最小迴歸有辦法解決這個問題嗎？ 增強樹或神經網路是不是想想就很瘋狂？ 我們非常歡迎並非常感謝您的回覆。 尊敬的克里斯
回覆：小樣本資料探勘...小樣本迴歸？雖然這個問題很久以前就被問到了，但我想在這裡插話，因為我認為討論並沒有討論一些細節，這些細節對於決定您是否能夠獲得一些有意義的信息非常重要。
1. 數據來自 DOE 嗎？ 那麼 50-70 個觀察通常就足夠有足夠的自由度來偵測潛在的行為。
2. 如果是來自 DOE，是什麼樣的。 如果 DOE 能夠估計您想要在迴歸或其他模型中查看的模型效果，這一點很重要。 如果它只是一個主效應模型，設計可以估計您將再次不確定創建的模型是否會告訴您真相
3. 如果這些只是觀察，探索性資料分析可以幫助您識別潛在的模式，然後使用前面提到的不同建模策略並進行比較，這將幫助您了解是否可以信任這些模型（這些模型是講述相同的故事還是完全不同）不同的？）
如果是後者，您可能想從能源部獲得更好的了解。
4. 人們常說神經網路不適用於如此少的數據點。 最新的研究表明，透過某些策略，您將能夠獲得仍然可接受的結果。 然而，您永遠不應該只相信一種模型。 測試不同的。 檢查當您模擬實際設定的微小變化時模型的行為如何，模擬結果是否保持在置信極限內或是否嚴重突破。
在執行此操作之前，您應該檢查資料的質量，是否存在異常值、缺失值，而列是否由於某些先前已知的關係（例如A 是k*B 或類似關係）而相關，是否有許多重複項。 隨著時間的推移，對同一事物的觀察測量是否相同，是否重複測量，... 所有這些都會告訴您可以對數據做什麼或不能做什麼。
所以，我想說的是，你可以為所有人創建模型，但它們是否有用取決於你的問題，數據來自哪裡，和它是如何測量的，不一定取決於你有多少觀察。
回覆：小樣本資料探勘...小樣本迴歸？這樣就清楚多了。 非常非常感謝你
親切的問候
C
回覆：小樣本資料探勘...小樣本迴歸？Would you please be so kind and elaborate a little bit more about signal and noise? (justone sentence)
Please accept my apologies but for me these two terms are pretty allegorical to my silly mind.
大多數統計模型試圖確定是否存在大於誤差（雜訊）變異性的訊號（真實關係）。 我所知道的每種建模技術都給出了信噪比的衡量標準；例如，在標準迴歸中，將是整體 F 檢定。
沒有理由不能在 50 個數據點中獲得非常大的訊號和非常低的雜訊。 這取決於數據。
回覆：小樣本資料探勘...小樣本迴歸？謝謝PG，這有幫助。 我會看看。
回覆：小樣本資料探勘...小樣本迴歸？是的，我指的是 CART 類型的分析，在 JMP 中稱為分區。 當因變數連續時，結果是迴歸樹，否則，它是分類（或決策）樹。 我認為回歸樣條消耗了太多的自由度，無法適用於您的資料集大小。 - PG
回覆：小樣本資料探勘...小樣本迴歸？嗨佩吉米勒
您能詳細說明一下訊號和雜訊嗎？ (只是一個句子）
請接受我的歉意，但對我來說，這兩個術語對我愚蠢的頭腦來說是相當寓言的。
謝謝你！
克里斯
回覆：小樣本資料探勘...小樣本迴歸？聚苯乙烯 我知道 JMP 中不提供 MARS，但 SAS 提供...所以腳本可能有幫助。
回覆：小樣本資料探勘...小樣本迴歸？首先非常感謝您的及時回覆。 對此，我真的非常感激
PG統計您的意思是分類和迴歸樹分析嗎？ 大車？
或者，您認為多元自適應迴歸樣條也適用於小樣本嗎？
再次非常感謝！
回覆：小樣本資料探勘...小樣本迴歸？我對如此少的資料集所做的第一件事是回歸樹分析。 這是探索因變數和預測變數之間關係的快速直觀的方法。 前三、四個節點通常是有意義的。 - PG
回覆：小樣本資料探勘...小樣本迴歸？這些程序在這些樣本量下是否有效取決於訊號雜訊比。 如果您有大量訊號和低噪音，您可能甚至不需要 50 筆記錄。 反之，低訊號和高噪音，您可能會浪費時間。
