작은 표본을 사용한 데이터 마이닝...작은 표본을 사용한 회귀?<meta http-equiv="Content-Type" content="text/html; charset=UTF-8" />친애하는 JMP 전문가 여러분, 저는 이런 종류의 논의가 어리석고...매우 어리석고 동시에 뜨거운 이슈일 수 있다는 것을 알고 있습니다...하지만 이 문제를 제기하는 것이 좋을 것이라고 생각했습니다. 선형 및 비선형 회귀의 유형 표본 크기가 작고(예: 레코드 50~70개) 5~7개의 예측 변수(범주형 및 연속형 모두)에서 연속 결과를 예측하려는 경우 JMP가 제공하는 기능은 k-겹 교차 검증된 단계적 선형 회귀 또는 부분 최소 회귀일 수 있습니다. 이 문제에 대한 해결책이 있습니까? 부스팅 트리나 신경망은 생각만 해도 미친 것일까요? 귀하의 답변은 매우 환영받으며 매우 감사드립니다. 감사합니다, 크리스
Re: 작은 표본을 사용한 데이터 마이닝...작은 표본을 사용한 회귀?꽤 오래 전에 이 질문에 대한 답변을 받았지만 의미 있는 정보를 얻을 수 있는지 결정하는 데 중요한 몇 가지 세부 사항에 대해서는 토론에서 언급하지 않는다고 생각하므로 여기에 답하고 싶습니다.
1. 데이터가 DOE에서 제공됩니까? 그러면 50-70개의 관찰은 일반적으로 근본적인 행동을 탐지할 수 있는 충분한 자유도를 갖기에 훨씬 더 충분합니다.
2. 교육청 출신이라면 어떤 종류입니까? DOE가 회귀 분석이나 다른 모델에서 확인하려는 모델 효과를 추정할 수 있는지가 중요합니다. 설계에서 추정할 수 있는 주효과 모델만 있는 경우 생성된 모델이 진실을 말할지 다시 한번 불확실성을 갖게 됩니다.
3. 이것이 단지 관찰일 경우 탐색적 데이터 분석은 잠재적인 패턴을 식별하는 데 도움이 될 수 있습니다. 이전에 언급한 다양한 모델링 전략을 사용하고 이를 비교하면 모델을 신뢰할 수 있는지 확인하는 데 도움이 됩니다(이러한 내용이 동일한 이야기를 전달하는지 아니면 완전히 전달하는지). 다른 것?)
후자의 경우 DOE로부터 더 나은 이해를 얻고 싶을 수도 있습니다.
4. 신경망은 이렇게 적은 양의 데이터로는 적용할 수 없다는 말을 자주 듣습니다. 최신 연구에 따르면 특정 전략을 사용하면 여전히 수용 가능한 결과를 얻을 수 있는 것으로 나타났습니다. 그러나 하나의 모델만 신뢰해서는 안 됩니다. 다양한 것을 테스트해보세요. 실제 설정의 작은 변화를 시뮬레이션할 때 모델이 어떻게 작동하는지, 시뮬레이션 결과가 신뢰 한계 내에 있는지, 아니면 크게 벗어나는지 확인하십시오.
그렇게 하기 전에 데이터 품질을 확인해야 합니다. 이상치, 누락된 값이 있는지, A is k*B 또는 이와 유사한 이전에 알려진 관계로 인해 열이 상관되는지, 중복 항목이 많은지 확인해야 합니다. 시간이 지남에 따라 동일한 것을 관찰하여 측정한 것인지, 반복 측정한 것인지, ... 이 모든 내용을 통해 귀하의 데이터로 무엇을 할 수 있고 무엇을 할 수 없는지 알 수 있습니다.
그래서 제가 말하고 싶은 것은 모든 사람을 위한 모델을 만들 수 있지만 그것이 유용할지 여부는 다음에 달려 있다는 것입니다. 귀하의 질문, 데이터의 출처, 그리고 어떻게 측정되었는지, 그리고 반드시 당신이 얼마나 많은 관찰을 했는지에 달려 있는 것은 아닙니다.
Re: 작은 표본을 사용한 데이터 마이닝...작은 표본을 사용한 회귀?훨씬 더 명확합니다. 정말 고마워요
친절한 감사
씨
Re: 작은 표본을 사용한 데이터 마이닝...작은 표본을 사용한 회귀?Would you please be so kind and elaborate a little bit more about signal and noise? (justone sentence)
Please accept my apologies but for me these two terms are pretty allegorical to my silly mind.
대부분의 통계 모델링은 오류(잡음)의 변동성보다 큰 신호(실제 관계)가 있는지 확인하려고 시도합니다. 내가 알고 있는 각 모델링 기술은 이러한 신호 대 잡음의 측정값을 제공합니다. 예를 들어, 표준 회귀에서는 전체 F-검정이 됩니다.
50개의 데이터 포인트에서 매우 큰 신호와 매우 낮은 노이즈를 갖지 못할 이유가 없습니다. 데이터에 따라 다릅니다.
Re: 작은 표본을 사용한 데이터 마이닝...작은 표본을 사용한 회귀?PG님, 감사합니다. 도움이 되었습니다. 제가 확인하겠습니다.
Re: 작은 표본을 사용한 데이터 마이닝...작은 표본을 사용한 회귀?예, JMP에서는 Partition이라고 불리는 CART 유형 분석을 의미했습니다. 종속변수가 연속형인 경우 결과는 회귀 트리이고, 그렇지 않은 경우 분류(또는 결정) 트리입니다. 회귀 스플라인은 데이터 세트 크기에 적용하기에는 너무 많은 자유도를 차지한다고 생각합니다. - PG
Re: 작은 표본을 사용한 데이터 마이닝...작은 표본을 사용한 회귀?안녕하세요 페이지밀러님
신호와 잡음에 대해 좀 더 친절하고 자세히 설명해 주시겠습니까? ( 단지 한 문장)
제 사과를 받아주세요. 하지만 저에게 있어서 이 두 용어는 저의 어리석은 마음에 대한 우화적인 표현입니다.
감사합니다!
크리스
Re: 작은 표본을 사용한 데이터 마이닝...작은 표본을 사용한 회귀?추신 MARS는 JMP에서는 제공되지 않지만 SAS에서는 제공되는 것으로 알고 있습니다. 스크립트 도움이 될 수도 있습니다.
Re: 작은 표본을 사용한 데이터 마이닝...작은 표본을 사용한 회귀?먼저 신속한 답변에 진심으로 감사드립니다. 정말 감사
PG통계 분류 및 회귀 트리 분석을 의미합니까? 카트?
또는 다변량 적응 회귀 스플라인이 작은 표본 크기에도 작동할 수 있다고 생각하십니까?
다시 한 번 감사드립니다!
Re: 작은 표본을 사용한 데이터 마이닝...작은 표본을 사용한 회귀?이렇게 빈약한 데이터세트로 제가 가장 먼저 하는 일은 회귀 트리 분석입니다. 이는 종속 변수와 예측 변수 간의 관계를 탐색하는 빠르고 직관적인 방법입니다. 처음 3개 또는 4개의 노드는 일반적으로 의미가 있습니다. - PG
Re: 작은 표본을 사용한 데이터 마이닝...작은 표본을 사용한 회귀?이러한 절차가 해당 샘플 크기에서 작동할지 여부는 신호 대 잡음비에 따라 다릅니다. 신호가 많고 노이즈가 낮다면 레코드 50개도 필요하지 않을 것입니다. 반대로 신호가 낮고 소음이 높으면 아마도 시간을 낭비하게 될 것입니다.
