내 의사결정 트리의 동일한 분기에 중복된 속성이 있는 이유는 무엇입니까?안녕하세요. 의사결정 트리가 (아래의 경우) Nozzle Air Pressure >42.09를 선택한 다음, 다음 노드에서 다시 Nozzle Air Pressure를 선택하고 분할하여 모순되는 것처럼 보이는 이유를 아는 사람이 있는지 궁금합니다. 제가 알기로는 속성이 분할되면 후속 분기에서 더 이상 고려되지 않아야 합니다. 저는 홀드백이 30%인 10겹 교차 검증을 사용하고 있습니다. 연속형과 명목형 데이터가 모두 있으므로 JMP가 CART 알고리즘을 사용한다고 가정합니다.
예측 모델링 및 머신 러닝Re: 내 의사 결정 트리에 동일한 분기에 중복 속성이 있는 이유는 무엇입니까?@Dan_Obermiller 고맙게도 이것에 대해 실질적인 방향을 제시할 필요는 없지만, 이러한 순차적인 '이중 분할'을 본다면 앞으로 어떻게 해야 할지 생각하게 되었습니다.
@ DiedrichSchmidt 이제 이해하기 시작했습니다. 압력이 42에서 45 사이이면 초크 가능성이 높습니다. 압력이 45보다 크면 질식할 확률이 38%입니다. 나는 > 42 AND > 45에 전화를 끊었는데, 실제 시나리오에서는 말이 되지 않았습니다. 그것은 모두 동일한 매개 변수의 분할을 읽는 방법에 달려 있습니다. 이 경우 모델을 만들려고 하지 않았으므로 ANN을 사용할 필요가 없습니다. 대신 중요한 변수, 각각의 분할 지점 및 응답 변수에 대한 잠재적 영향(작은 트리 깊이 및 최소한의 과적합을 통해)을 식별합니다.
입력해 주셔서 감사합니다!Re: 내 의사 결정 트리에 동일한 분기에 중복 속성이 있는 이유는 무엇입니까?안녕 @kom ,
일부 값이 >=42 및 >=45라는 결정의 경우 여전히 논리적으로 의미가 있습니다. 응답 Y가 >=45이면 여전히 동시에 >=42이고 논리적 결정 분할을 충족합니다. 더 의도적인 질문은 이러한 추가적인 분할이 존재하는 것이 이치에 맞는지 여부라고 생각합니다. 홀드백(검증 부분) 또는 Y 출력에 계층화된 검증 열을 사용하는 경우 의사 결정 트리를 자동으로 분할할 수 있어야 하며 트리를 필요한 최소 분할 수로 줄여야 합니다. 유효성 검사 데이터에 대해 가장 높은 R2를 만듭니다. 즉, 작업 중인 과학에서 주어진 데이터에 대해 이러한 분할이 합리적인지 여전히 결정해야 합니다.
의사 결정 트리를 사용하여 예측 모델을 찾고 있습니까? 그렇다면 NN 등과 같은 다른 플랫폼을 사용하여 어떤 모델이 테스트 데이터 세트를 사용하여 실제로 가장 잘 예측하는지 확인할 수 있습니다.
행운을 빌어요!,
DS
Re: 내 의사 결정 트리에 동일한 분기에 중복 속성이 있는 이유는 무엇입니까?예측 변수는 연속 변수입니다. 응답과 선형 관계가 있는 경우 관계를 근사화하기 위해 해당 예측 변수를 여러 번 분할해야 할 수 있습니다.
Re: 내 의사 결정 트리에 동일한 분기에 중복 속성이 있는 이유는 무엇입니까?아, 그리고 그것이 2차 관계라면 어떨까요? 이 경우 트리 분할이 어떻게 보일 것이라고 생각하십니까?
Re: 내 의사 결정 트리에 동일한 분기에 중복 속성이 있는 이유는 무엇입니까?42를 45로 나누는 것이 실질적으로 타당한지는 당신만이 판단할 수 있다고 생각합니다. 그러나 동일한 변수에 대한 여러 분할을 이해하기 위해 Y와 X 간의 관계가 선형인 상황이 있다고 가정합니다. 예를 들어 Y=10+20*X라는 것을 알고 있습니다. 현실 세계에서 우리는 이 진정한 모델을 알지 못하므로 이 관계를 사용하여 트리를 데이터에 맞추면 X에 대해 여러 분할을 얻게 됩니다. 트리가 연속적인 선형 관계를 모방하려고 시도할 수 있는 유일한 방법입니다.
Re: 내 의사 결정 트리에 동일한 분기에 중복 속성이 있는 이유는 무엇입니까?안녕 디드리히. 시간을 내어 답변해 주셔서 감사합니다. 첫째, 당신 말이 맞습니다. 메일을 쓰는 속도에서 k-fold와 holdback을 잘못 썼습니다. 나는 실제로 둘 다 시도했고 다소 비슷한 결과를 얻었습니다.
의사 결정 트리는 IF x AND y THEN z 논리를 따라 데이터를 분류합니다. 나는 그것을 얻는다 t는 기압 >=42에서 첫 번째 분할을 수행하고 >=42 AND <45가 이제 의미가 있음을 받아들일 수 있습니다(사실 의사결정 트리에서 동일한 속성을 2 사이로 지정하는 것을 본 것은 이번이 처음입니다. 값). 그럼에도 불구하고 >=42 AND >=45라는 것은 실용적이지 않습니다. 당신은 동의?
키어런
Re: 내 의사 결정 트리에 동일한 분기에 중복 속성이 있는 이유는 무엇입니까?안녕 @kom ,
의사결정 트리를 분할할 때 JMP가 사용하는 정확한 알고리즘은 모르지만 개념적으로는 의도한 대로 작동하고 모순되지 않습니다. 의사결정 트리의 다른 분할을 보면 다른 속성도 여러 번 사용된다는 것을 알 수 있습니다. 여러 번 사용하지 않는 것은 같은 값입니다.
귀하의 예에서 기압이 >=42인 노드에서 JMP는 단순히 데이터를 분리하기 위한 결정 지점으로 사용합니다. 다음 노드에서 JMP는 기압이 >=42인 모든 경우에 대해 기압이 여전히 >=42이지만 (>=42 및 <45)이거나 ( >=42 및 >45).
10겹 교차 검증과 30% 홀드백을 어떻게 사용하고 있습니까? 일반적으로 한 가지 유형의 유효성 검사 방법만 사용합니다.
DS
