小さなサンプルでのデータ マイニング...小さなサンプルでの回帰?<meta http-equiv="Content-Type" content="text/html; charset=UTF-8" />親愛なるすべてのJMP専門家へ、この種の議論はばかげているかもしれません...非常にばかげていると同時にホットな問題になるかもしれません...しかし、それを提起するのはいいことだと思いました:サンプル サイズが小さく（たとえば、50 ～ 70 レコード）、5 ～ 7 個の予測変数（カテゴリおよび連続の両方）から連続的な結果を予測したい場合、JMP は提供しますか クロス検証された段階的線形回帰または部分最小回帰を k 分割できますかこの問題の解決策はありますか？ ブーストされたツリーやニューラル ネットワークは、考えただけでも正気ではないのでしょうか? あなたの反応は大歓迎であり、非常に感謝しています. 敬具、クリス
Re: 小さなサンプルでのデータ マイニング...小さなサンプルでの回帰?この質問はかなり前に回答されましたが、有意義な情報を得ることができるかどうかを判断するために重要な詳細について議論が行われていないと思うので、ここでチャイムを鳴らしたいと思います.
1. DOE からのデータですか? その場合、50 ～ 70 回の観測は通常、根本的な動作を検出するのに十分な自由度を得るのに十分です。
2. DOE からの場合、どのようなものか。 回帰または他のモデルで調べたいモデル効果を DOE が推定できるかどうかは重要です。 それが主効果モデルのみである場合、設計が推定できるのは、作成されたモデルが真実を教えてくれるかどうか、再び不確実性があります
3.これらが単なる観察である場合、探索的データ分析は、前述のさまざまなモデリング戦略を使用して潜在的なパターンを特定するのに役立ち、これらを比較すると、モデルを信頼できるかどうかを確認するのに役立ちます (これらは同じストーリーを伝えているのか、完全に伝えているのか)違う？）
後者の場合は、DOE から理解を深めることができます。
4. ニューラルネットは、このような少数のデータポイントには適用できないとよく言われます。 最近の調査によると、特定の戦略を使用すると、依然として許容できる結果が得られることが示されています。 ただし、1 つのモデルだけを信頼するべきではありません。 さまざまなものをテストします。 実際の設定のわずかな変動をシミュレートしたときにモデルがどのように動作するか、シミュレーション結果が信頼限界内にとどまるか、または大幅にブレークアウトするかを確認します。
それを行う前に、データの品質を確認する必要があります。外れ値や欠損値があるか、A が k*B であるか同様の関係があるなどの既知の関係によって列が相関しているか、多くの重複があるかを確認する必要があります。 時間の経過に伴う同じものの観測測定値ですか、それらは繰り返し測定されますか... これにより、データで何ができるか、何ができないかがわかります。
つまり、私が言いたいのは、すべてのモデルを作成できるということですが、それらが役立つかどうかは、あなたの質問、データの取得元、とどのように測定されたか、必ずしもあなたが持っている観察の量ではありません。
Re: 小さなサンプルでのデータ マイニング...小さなサンプルでの回帰?それははるかに明確です。 本当にありがとう
敬具
C
Re: 小さなサンプルでのデータ マイニング...小さなサンプルでの回帰?Would you please be so kind and elaborate a little bit more about signal and noise? (justone sentence)
Please accept my apologies but for me these two terms are pretty allegorical to my silly mind.
ほとんどの統計モデリングでは、誤差 (ノイズ) の変動性よりも大きい信号 (実際の関係) があるかどうかを判断しようとします。 私が認識している各モデリング手法は、この信号対ノイズの尺度を提供します。たとえば、標準回帰では全体の F 検定になります。
50 個のデータ ポイントで非常に大きな信号と非常に低いノイズを得ることができない理由はありません。 それはデータに依存します。
Re: 小さなサンプルでのデータ マイニング...小さなサンプルでの回帰?ありがとうPG、これは役に立ちます。 確認してみるよ。
Re: 小さなサンプルでのデータ マイニング...小さなサンプルでの回帰?はい、JMP では Partition と呼ばれる CART タイプの分析を意味していました。 従属変数が連続の場合、結果は回帰ツリーになり、それ以外の場合は分類 (または決定) ツリーになります。 回帰スプラインは、データセットのサイズに適用するには自由度が多すぎると思います。 -PG
Re: 小さなサンプルでのデータ マイニング...小さなサンプルでの回帰?こんにちはペイジミラー
信号とノイズについてもう少し詳しく教えてください。 (ただ一文）
申し訳ありませんが、私にとってこれらの 2 つの用語は、私の愚かな心にとってかなり寓話的です。
ありがとう！
クリス
Re: 小さなサンプルでのデータ マイニング...小さなサンプルでの回帰?PS MARSはJMPでは提供されていませんが、SASから提供されていることは知っています...だからスクリプト役立つかもしれません。
Re: 小さなサンプルでのデータ マイニング...小さなサンプルでの回帰?初めまして、早速のご返信誠にありがとうございます。 ほんとうにありがとう
PGStats分類および回帰木分析のことですか? カート？
あるいは、多変量適応回帰スプラインは小さなサンプルサイズでも機能すると思いますか?
どうもありがとうございました！
Re: 小さなサンプルでのデータ マイニング...小さなサンプルでの回帰?このような不十分なデータセットで最初に行うことは、回帰木分析です。 これは、従属変数と予測変数の間の関係を調べるための迅速かつ直感的な方法です。 最初の 3 つまたは 4 つのノードは、通常意味があります。 -PG
Re: 小さなサンプルでのデータ マイニング...小さなサンプルでの回帰?これらの手順がこれらのサンプル サイズで機能するかどうかは、信号対雑音比によって異なります。 信号が多くノイズが少ない場合は、おそらく 50 レコードも必要ないでしょう。 逆に信号が低くノイズが多いと、おそらく時間を無駄にしていることになります。
