주성분 회귀안녕하세요. 저는 약 4년 동안 JMP에서 PCA를 사용해 왔습니다. 화려하지는 않지만 기능이 많아서 매우 편안함을 느낍니다. 나는 DoE의 요소로 PC를 사용해 왔으며, 내가 좀 똑똑한 사람이라고 생각했습니다. 놀랍게도 저는 지난주 주성분 회귀에 관한 Wikipedia 페이지를 우연히 발견했습니다. 하아.
어쨌든, 계속해서 살펴보았지만 PCR용 JMP(또는 해당 문제에 대한 DoE와의 통합)에는 기능은 물론이고 어떤 참조도 보이지 않습니다. 제가 뭔가 놓치고 있는 것이 있나요? 이 기능이 JSL 형식이더라도 JMP에 존재합니까? 그렇지 않다면 누구든지 경험이 있습니까? 기본적으로 PC 수식 열의 역인 PC에서 역 상관 행렬을 사용하시겠습니까?
감사해요!고급 통계 모델링실험 설계윈도우Re: 주성분 회귀안녕,
나도 같은 생각을 하다가 이 게시판에서는 말도 안되는 소리라는 말을 들었습니다. 하지만 원하는 것을 얻기 위해서는 노동집약적인 방법이 있을 수 있습니다.
- 데이터 세트에서 주성분 계산(다변량 방법 > 주성분)
- 보고서에서 열 저장 > 주성분 값 저장으로 이동합니다. 저장하는 PC 수는 데이터에 따라 달라지며, 저는 데이터 변동의 80% 이상을 캡처하는 PC를 사용하는 경향이 있습니다.
- 그런 다음 PC를 모델의 변수로 처리합니다(예: 응답 선별, 적합 모델 등..)
참고: 이 접근 방식은 이 페이지( 링크 )에 설명된 대로 R의 작업 흐름에서 직접적으로 영감을 받았습니다.
최상의,
TS
Re: 주성분 회귀답장을 보내 주셔서 감사합니다! 그렇다면 PCR로 사람들의 쇠고기는 무엇입니까? 근본적인 통계 문제인가요, 아니면 다른 문제인가요? 내가 사용하는 종이가 있는 것처럼 100가지 속성에 걸쳐 700가지 용매가 필요합니다. 용매 공간에 진정으로 독립적이고 기본적인 측면이 100개 있을 가능성은 거의 없으며 PCR은 이를 관리 가능한 크기로 줄이는 합리적인 방법인 것 같습니다. 제올라이트, 광물 등을 얻을 수 있는 다른 곳도 많이 있을 것이라고 확신합니다. 그리고 그것은 단지 화학적일 뿐입니다.
Re: 주성분 회귀또한 원래 열 공간의 관점에서 얻은 회귀 모델을 반전시키는 가장 좋은 방법이 무엇인지 묻고 있는 것 같습니다. 나는 완전한 공개를 추측합니다. 저는 이 PC를 실험 설계의 요소로 사용하고 있습니다. PC 측면에서 모델을 만들고 여기에 역상관 행렬을 적용합니까? 아니면 모든 요인에 대해 일종의 적합성을 수행하고 더 물리적 기반 모델을 얻는 데 가장 적합한 것이 무엇인지 확인합니까?Re: 주성분 회귀부분 최소 제곱 회귀가 더 간단한 솔루션이 될 수 있습니까?
Re: 주성분 회귀사람들이 PCR을 통해 "쇠고기"를 먹는지 확신할 수 없지만 몇 가지 제한 사항이 있습니다. 궁극적으로 모델링 노력을 통해 원하는 것이 무엇인지 확신해야 합니다.
PCR은 편향 회귀 기법입니다. 이것이 반드시 나쁜 것은 아니지만 모델은 예측만 할 수 있습니다. 설계된 실험처럼 일이 발생하는 원인에 대한 통찰력을 제공하기 위한 것이 아닙니다. 이는 인과관계에 대한 주장 없이 단지 상관관계에 기초해 구축된 것입니다.
@Thierry_S가 제안한 대로 X에 대해 PCA를 수행할 때 처음 몇 개의 주성분만 유지하는 것은 목표 또는 응답 변수 Y가 아닌 X만 고려하는 것입니다. 따라서 최상의 모델을 얻지 못할 수도 있습니다. 마지막 주성분은 표적에 대한 최고의 예측 능력을 가질 수 있으므로 PCR 모델을 구축하려면 모든 주성분을 유지해야 합니다. 모든 PC에 모델을 맞춘 후에는 중요하지 않은 PC를 제거하여 최종 모델을 얻을 수 있습니다.
귀하의 마지막 게시물은 PCR과 관련된 주요 문제에 관한 것입니다. 어떻게 원래 X 공간으로 다시 변환합니까? 몇 가지 가능한 접근 방식이 있습니다. 한 가지 접근 방식은 주요 PC 각각에서 가장 높은 부하를 갖는 요소를 유지하는 것입니다. 두 번째 접근 방식은 중요한 각 PC에서 로딩이 가장 낮은 요소를 제거하는 것입니다. 그리고 다른 가능성도 있습니다. 어떤 접근 방식을 선택하는지는 모델에서 원하는 것이 무엇인지에 따라 달라집니다.
Re: 주성분 회귀흠. @Dan_Obermiller 의 우려를 이해합니다.
좋아, 생각이 하나 있습니다. 이건 제가 잘 모르는 내용을 파헤치는 거니까, 이게 터무니없는 소리인지 알려주세요. PC를 사용한 실험 설계가 PC에 대한 모델을 만들어내더라도, y 벡터는 여전히 실수 단위입니다. 그렇다면 @Thierry_S가 제안한 대로 PC를 생성할 수 있을까요? 이렇게 하면 적어도 최대 분산 방향에 있는 점을 선택하려고 하는 설계를 생성할 수 있습니다. 이를 DoE 플랫폼에 공변량으로 로드합니다. 그리고 방금 @Victor_G가 공유한 PLS 플랫폼을 살펴보았는데, PC에 대한 모델을 만드는 대신 최종 데이터를 원래 데이터 세트에 대해 PLS 회귀시키는 게 어떨까요?
이 방법을 사용하면 원래 열 공간의 사용이 설계에서 극대화되는지 확인하기 위해 PC만 사용하지만, 원래의 물리적으로 접지된 열 공간을 우선시하는 회귀 모델을 사용하게 됩니다.
이게 합리적일까요? 제가 가장 걱정하는 건 이게 최적성 기준을 잠언적인 뒷방으로 밀어내는 것뿐이라는 겁니다. 하지만 제가 알아낸 바에 따르면 PLS는 상관관계가 높은 변수를 처리하도록 설계되어 있어서 최적성 기준에 대한 필요성이 줄어드는 건가요? 다른 문제도 있을 수 있습니다.
저는 초보적인 화학 엔지니어일 뿐이므로, 제가 통계를 제대로 다루지 못하고 있다면 알려주시길 바랍니다.Re: 주성분 회귀또한, @Victor_G , 방금 태그 라인에 L'Oreal이 있는 걸 봤어요. 사실 방금 L'Oreal에 지원했어요. 합격할지 모르겠지만, 다른 직장으로 옮기면서 JMP Pro를 잃을까봐 걱정이었어요. 그곳에서 직장을 구하면 액세스 권한을 잃지 않을 거라는 걸 알게 되어서 다행이에요!Re: 주성분 회귀@ehchandlerjr 디자인 제작에는 두 가지 옵션이 있습니다.
- 설계에서 PC를 요소로 사용(예측 가능성 측면에서 @Dan_Obermiller 가 언급한 위험이 있지만 좋은 실험 공간 적용이 가능할 수 있음)
- 요인을 공변량으로 직접 사용하십시오. 요인에 따라 수준을 독립적으로 변경할 수 없을 수 있기 때문입니다. 예를 들어 화학적 특성의 경우 분자 세트에 대해 분자량, 위상 표면적, 탄소 사슬 길이를 완전히 독립적으로 변경할 수 없습니다. 모든 가능한 요인 조합으로 후보 세트를 준비하고 이러한 요인을 공변량으로 사용하면 원래 입력을 동일하게 유지하고 실험 공간을 잘 커버하고 이러한 요인으로 응답을 직접 모델링하는 데 도움이 될 수 있습니다(PLS 또는 기타 모델을 통해). 자세한 내용은 여기를 참조하십시오. 실험 설계에서 공변량이란 무엇입니까?
개발자 튜토리얼 - 실험 설계 시 공변량을 효과적으로 처리하기 - JMP 사용자 커뮤니티
로레알의 행운을 빌어요, 계속 알려주세요:)
최상의,
Re: 주성분 회귀제가 정의하는 실험이 당신과 다른 걸까요? 제가 실질적으로 궁금한 건 이겁니다. 실험에서 실제로 무엇을 조작하는 건가요? PC가 특정하게 독립적으로 조작되거나 조작될 수 있는 요인이나 요인 집합으로 직접 변환될 수 있다고 생각하지는 않습니다.
물론 회귀 분석도 가능하지만, 이게 실험인지는 잘 모르겠네요. 공변량만 있다면 그건 실험이 아니라 회귀 분석입니다. 일반적으로 실험에는 고정 효과로 간주되는 요인들이 포함됩니다. 공변량은 확률 효과입니다. 이 두 가지를 합치면 혼합 모형이 됩니다. 일반적으로 혼합 모형에서 고려할 수 있는 확률 변수의 수는 제한적입니다.
