주성분을 변수로 사용하는 DoE안녕,
최적화 문제를 해결하고 데이터 세트에서 일부 PCA를 수행했습니다.상위 7개의 주성분이 분산의 약 80%를 설명합니다.저는 이러한 상위 7개 주요 구성 요소를 변수로 사용하여 DoE를 계획하고 싶었습니다.그러나 동료는 후기 주성분이 이전 주성분에 비해 상대적으로 작은 차이를 설명하므로 이를 포함하면 실험 자원의 비효율적인 사용으로 이어질 수 있기 때문에 이것이 쓰레기라고 지적했습니다.(정보를 위해 그는 대신 내가 잘 모르는 k 가장 가까운 이웃 분석을 옹호했습니다).내 질문은 데이터를 설명하는 능력이 크게 다른 변수(이 경우 주 구성 요소)로 DoE를 수행하는 것이 여전히 유효한지 여부입니다.(제 영역에서는 상위 3개의 DoE를 기반으로 제안된 DoE를 자주 봅니다. 전체 변동성의 일부만 설명하는 경우에도 마찬가지입니다.
실험 설계Re: 주성분을 변수로 사용하는 DoE안녕 @kjwx109 ,
자세한 내용 없이는 도움을 드리기 어려울 수 있습니다. 예를 들면 다음과 같습니다.
- 이미 가지고 있는 데이터셋을 분석하고 싶거나, 이 데이터셋을 기반으로 실험을 계획하고 싶다면?
- 분석의 목표는 무엇입니까?
- 예측 모델 또는 설명 모델(또는 둘 다)을 생성하시겠습니까?
- 높은 차원 문제가 있습니까? 가지고 있는 원래 요인/변수의 수는 얼마입니까?
- 개인/관찰 또는 변수를 그룹화/군집화하시겠습니까?
일반적인 관점에서 주성분 변수에 DoE를 생성하는 것이 유효할 수 있지만 이러한 주성분 변수가 도메인 전문 지식 관점에서 의미가 있는 경우 더 좋습니다. 아마도 특정 요소는 특정 PC에서 "혼합"될 수 있으며 이 두 상관 요인을 포함하는 용어를 찾고 함께 연결될 수 있는 이유를 설명할 수 있습니다.
해결하려는 문제인 경우 차원을 줄이는 다양한 옵션이 있으며 변수 또는 관찰/개인에 대해 수행할 수 있는 옵션이 있습니다. 이것은 다른 시각화 및 결과로 이어질 수 있습니다. 여기에서 클러스터링에 대한 유사한 주제에 답변했습니다. JMP 커뮤니티 - 클러스터링용 열 , 그리고 차원을 줄이는 다른 방법이 있습니다: Principal Components Analysis, Multivariate Embeddings (UMAP, t-SNE, ...)...
K-Nearest Neighbors가 이 맥락에서 어떻게 유용할지 모르겠습니다. 예측 접근 방식이나 누락된 값에 대한 전처리 단계에서 더 자주 사용됩니다. 변수 선택 방법이 아닙니다. 여기에서 더 많은 정보를 찾을 수 있습니다. K 최근접 이웃(jmp.com)
그리고 대화형 방식으로 작동하는 방식(및 데이터 세트 크기, 이웃 수 등의 영향)을 여기에서 확인할 수 있습니다. K-최근접 이웃(KNN) - 결정 경계의 분산 시각화 / Antoine Broyelle | 관찰 가능(observablehq.com)
이 첫 번째 답변이 도움이 되기를 바라며 더 많은 컨텍스트를 통해 도움을 드릴 수 있기를 기대합니다.
Re: 주성분을 변수로 사용하는 DoEVictor는 몇 가지 훌륭한 질문을 합니다.실제로 주성분을 조작하는 방법과 레벨 설정은 어떻게 하는지 알고 싶습니다.
Re: 주성분을 변수로 사용하는 DoE모든 변수가 독립적입니까? 즉, 각각의 값을 직접 설정할 수 있습니까?그렇다면 이러한 7개 구성 요소에 의해 정의된 공간만 탐색하는 것은 잠재적 설계 공간보다 훨씬 작을 수 있으며 과거에 거기에서 실행한 적이 없기 때문에 최적의 지점을 놓칠 위험이 있습니다.예: 플랜트가 온도 X를 수정하지 않은 경우 PCA 구성 요소를 사용하는 DOE도 X를 이동하지 않습니다.
반면에 그 알려지지 않은 공간은 정말 나쁜 제품을 만들거나 작동하지 않을 수 있습니다.이러한 모든 구성 요소의 한계에서 성능을 효과적으로 분석하고 시각화할 수 있고 최적의 지점이 내부에 그 공간에서 시작하는 공간 디자인이 가장 효율적일 수 있습니다.예비 결과를 사용하여 이를 확인하고 설계 공간이 너무 작거나 크다고 판단되면 설계를 보강하십시오.
구성 요소의 수와 관련하여 이러한 구성 요소에 대한 일부 분석이 필요하다고 생각합니다. 제어할 수 있는 7가지 요소가 있고 7번째 최적화의 잠재적 이점이 추가 실행의 가치가 있는 경우 해당 공간을 탐색한 다음 실행해야 합니다.경우에 따라 처음 4개의 구성 요소는 주어진 시간에 시설 제어 외부의 요인이 될 수 있으므로 5번째 구성 요소는 제어할 수 있는 실제 지렛대인 첫 번째 구성 요소입니다.다른 경우에는 7번째 구성 요소에 대한 최상의 설정과 더 나쁜 설정 간의 차이로 인해 실험 비용을 지불하지 않아도 비용이 절감될 수 있습니다.
프로세스와 디자인은 뉘앙스로 가득 차 있습니다.너무 일반화하는 것을 주저하므로 이와 같은 질문에 대답하는 것은 실제로 프로세스와 목표에 달려 있습니다.
Re: 주성분을 변수로 사용하는 DoE안녕 @kjwx109 ,
다양한 범위의 후보를 탐색하는 실험을 설계하기 위해 더 적은 수의 공변량 요인에 도달하기 위해 다양한 "후보" 자료의 라이브러리에서 많은 수의 연속 설명자 변수에 대해 PCA를 수행했다고 가정합니다. .
그렇다면 첨부된 예가 귀하의 질문에 답하는 데 도움이 될 것이라고 생각합니다. 여기서 목표는 화학 반응 공정 최적화의 일환으로 다양한 범위의 용매를 선택하는 것입니다.
우리는 용매에 대한 9개의 설명자를 가지고 있으며 이들 중 많은 것 사이에 강한 상관관계가 있습니다. 따라서 PCA를 사용하여 문제의 크기를 줄일 수 있습니다. 2개의 PC는 용매 설명자 변동의 >70%를 캡처합니다. (설명자 간에 강한 상관관계가 없다면 PCA에 아무런 의미가 없습니다. 실험에서 설명자를 공변량 요인으로 사용합니다.)
상위 2개의 PC를 보면 시스템의 "실제" 화학적 특성으로 이해할 수 있습니다. 두 번째는 용매가 얼마나 "부피"가 큰지 설명합니다. 변이의 9%만 설명하는 세 번째 PC의 의미를 해석하는 것이 훨씬 더 어렵습니다.
설계된 실험에서 공변량 요인으로 몇 대의 PC를 사용해야 합니까? 확실히 우리는 9개 모두를 사용하지 않을 것입니다. 요점은 많은 수의 상관 측정 가능한 설명자에서 시스템의 중요한 속성을 설명한다고 생각되는 더 적은 수의 의미 있는 기본 "잠재" 구성 요소로 문제의 크기를 줄이는 것입니다.
일반적인 경험 법칙은 고유값이 1 미만인 PC를 고려하지 않는 것입니다. PC는 원래 변수 중 하나보다 적은 변동을 설명하기 때문입니다. 이 경우 처음 2대의 PC만 사용하도록 선택한다는 의미입니다.그리고 처음 2개는 화학적으로 가장 의미가 있는 것 같습니다. 이와 같은 많은 경우에 사람들은 3대의 PC를 사용하지만 3D 산점도에서 잘 보이기 때문이라고 생각합니다!
PCA의 통계와 시스템에 대한 도메인 이해의 조합을 사용하여 공변량 요인으로 이월할 PC 수의 선택을 알려야 합니다.
라이브러리에서 유사한 후보 그룹을 제공하는 클러스터링과 같은 대안이 있습니다.그런 다음 각각의 대표자를 선택하여 다양한 후보자 샘플을 제공할 수 있습니다. 그러나 그것은 의미 있는 PC를 요소로 사용하여 얻은 통찰력을 제공하지 않습니다. 그리고 그것은 우리가 고려할 수 있는 다른 프로세스 요소와 함께 후보의 속성을 가장 잘 탐색하는 실험을 설계할 수 없게 합니다. k개의 가장 가까운 이웃을 어떻게 사용할지 확신할 수 없지만 동일한 단점이 있을 것이라고 생각합니다.
이게 도움이 되길 바란다.
필
