이전 두 블로그 게시물에서 Jeremy Ash( @JeremyAshJMP ) 그리고 나는 전시했다 JMP Martens et al.의 인기 있는 분광학 데이터 세트를 분석하여 스펙트럼 분석 및 시각화 기능을 제공합니다. 1 우리는 보여주었다 스펙트럼 데이터를 시각화하는 다양한 방법 그리고 몇 가지 전처리 단계 추가 분석 및 모델링을 위해 데이터의 신호 대 잡음비를 극적으로 개선할 수 있었습니다.
블로그 시리즈의 이 세 번째 부분에서는 스펙트럼 데이터를 JMP에서 모델링할 수 있는 여러 가지 방법을 보여줍니다.Partial Least Squares(PLS)는 스펙트럼 데이터 분석을 위한 가장 일반적인 도구이며 PLS는 JMP와 JMP 모두에서 수행할 수 있습니다. JMP 프로 . JMP Pro는 또한 Elastic Net 패널티 회귀, 신경망 모델링 및 Bootstrap Forest와 같은 고급 의사 결정 트리 방법을 제공합니다.
Bootstrap Forest 및 Elastic Net 기술을 사용하면 개별 화합물의 가장 중요한 파장과 혼합물의 구성 요소를 정의하는 파장을 빠르고 쉽게 찾을 수 있습니다. 이러한 모델링 기술은 원시 데이터 또는 처리된 데이터와 함께 사용할 수 있습니다. 이 게시물에서 Jeremy와 저는 사전 처리 후 예측 능력의 전반적인 개선을 보여주기 위해 원시 데이터와 사전 처리된 데이터 모델링 간의 차이점을 보여줍니다. 방법의 전반적인 비교에 대한 명확한 설명으로 모든 분석에 대한 검증 세트로 데이터의 20%와 함께 동일한 2단계 검증 열이 사용되었습니다.
모델링 방법
부분 최소 제곱
부분 최소 제곱은 스펙트럼 분석을 위한 표준 방법입니다. PLS는 넓은 데이터와 긴 데이터를 모두 처리하며 특히 상관관계가 높은 요소를 잘 처리합니다. 스펙트럼 데이터는 종종 고도로 상관된 흡광도를 가지므로 각 연속 파장이 바로 앞의 하나의 파장에 종속되기 때문에 이 기능은 스펙트럼에 좋은 징조입니다. 이러한 종속성 때문에 PLS는 종종 원시 스펙트럼 데이터를 매우 좋은 결과로 분석하는 데 사용됩니다. 위에서 언급했듯이 사전 처리는 결과 예측 모델을 개선하여 데이터를 사전 처리하는 데 시간과 노력을 투자하는 것을 보증할 만큼 충분히 향상됩니다. 샘플 데이터는 글루텐과 전분의 혼합물 그룹이며 PLS의 경우 미래의 샘플과 함께 글루텐과 전분 비율을 잘 예측하는 모델을 개발하는 데 정말 좋은 역할을 한다는 점을 기억하십시오.
PLS 모델은 이전의 주성분 분석이 두 개의 주성분을 사용했기 때문에 두 개의 잠재 요인으로 구축되었습니다. 또한 Q 2 두 가지 요인 이상으로 개선되지 않으며 더 많은 요인을 추가하면 모델 해석이 더 어려워집니다.
그림 1. 부분 최소 제곱 모델 설정 및 출력.
그림 1. 부분 최소 제곱 모델 설정 및 출력.
그림 2. 원시 데이터가 있는 부분 최소 제곱 모델.
그림 3. 사전 처리된 데이터가 있는 부분 최소 제곱 모델.
아래는 두 PLS 모델에 대한 실제별 예측 플롯을 비교한 것입니다. 왼쪽은 원시 데이터용이고 오른쪽은 전처리된 데이터를 사용하는 것입니다. 보시다시피 전처리된 데이터를 사용하여 모델이 크게 개선되었습니다.
그림 4. 원시 및 사전 처리된 데이터를 사용한 부분 최소 제곱 모델 비교.
일반화 회귀(Gen Reg)
일반화 회귀 기술은 다음에서 찾을 수 있습니다. JMP 프로 . Gen Reg는 일반 최소 제곱에서 얻을 수 없는 최소한 두 가지를 제공합니다. 하나는 Gen Reg를 사용하면 데이터가 정규 분포를 따르지 않아도 된다는 것입니다. 다양한 배포 유형에 대한 옵션이 있습니다. 또 다른 차이점은 Gen Reg에는 Penalized Regression 기술이 포함되어 있으며 상관 관계가 높은 데이터를 매우 잘 처리한다는 것입니다. Gen Reg는 Ridge, Lasso 및 Elastic Net을 제공합니다. Elastic Net은 ENA(Elastic Net Alpha) 패널티를 조정하여 모델에 중요하고 상관관계가 높은 많은 요소를 거부함으로써 모델이 과소적합되는 것을 방지할 수 있기 때문에 스펙트럼 데이터 모델링에 좋은 절충안입니다. 초기 모델을 구축하는 데 기본값인 0.99 ENA를 사용했습니다. 이 모델은 다소 희박하고 잠재적으로 적합하지 않은 것으로 나타났습니다. Gen Reg의 고급 옵션을 사용하여 알파 값 범위를 스캔하여 더 나은 모델이 있는지 확인했습니다. 이 스캔은 0.55의 ENA 값을 사용하여 더 나은 적합성을 제공했습니다. 아래 솔루션 경로에서 두 ENA 값에 대한 맞춤의 차이를 확인할 수 있습니다.
그림 5 - 원시 데이터에 대한 Elastic Net 솔루션 경로.
그림 6 - 원시 데이터가 있는 Gen Reg에 대한 맞춤 통계.
그림 7 - 사전 처리된 데이터에 대한 Elastic Net 솔루션 경로.
그림 8 - 사전 처리된 데이터가 있는 Gen Reg에 대한 맞춤 통계.
더 자세히 설명하지 않고 원시 데이터에 대한 적합은 ENA(Elastic Net Alpha)가 0.99일 때 10개의 파장을 사용하고 ENA가 0.55일 때 37개의 파장을 사용했습니다.
사전 처리된 데이터는 결과가 크게 다릅니다. Elastic Net을 다시 사용하여 0.99의 ENA를 사용하여 22개의 중요 파장을 찾았고 0.55의 ENA를 사용하여 53개의 중요 파장을 찾았습니다. 0.55의 ENA로 식별된 37개 및 53개의 중요한 파장이 많은 반면, 두 결과 모두 PLS 모델보다 큰 차이로 작습니다. 두 모델 세트에 대한 적합 통계를 확인하면 전처리된 데이터가 더 나은 전체 예측 모델을 가짐을 보여줍니다. 그러나 원시 데이터만 사용했다면 여전히 합리적으로 좋은 예측 모델을 제시할 수 있습니다.
그림 9 - 원시 및 사전 처리된 데이터가 있는 Gen Reg의 모델 비교.
처리된 데이터를 사용하여 PLS 및 ELN 모델을 비교하면 ELN 모델이 R을 기반으로 약간만 더 우수함을 보여줍니다. 2 . 그러나 ELN 모델은 더 간단하고 해석하기 쉽습니다.
그림 10 - 처리된 데이터에 대한 PLS 및 ELN 모델링 기술의 비교.
모든 스펙트럼 분석에 Elastic Net 모델을 사용해야 한다는 의미입니까? 실행 가능한 후보로 간주해야 하지만 실제로는 사용할 수 있는 모델링 플랫폼과 예측 성능과 함께 모델 해석 가능성이 바람직한지 여부에 달려 있습니다.
더 많은 모델링 옵션
신경망 모델
데모 목적으로 신경망 모델을 사용할 수도 있습니다. 이 경우에는 매우 적합하지만 매우 복잡한 모델을 보여줍니다.
그러나 JMP의 예측 프로파일러를 사용하면 가장 복잡한 비선형 모델도 해석할 수 있습니다. 프로파일러는 모든 파장이 예측에 사용될 때 압도적일 수 있습니다. 신경망 모델을 더 단순하게 유지하려면 모델 대화 상자에서 Gen Reg로 선택한 파장을 제공할 수 있습니다.
그림 11 - 원시 데이터와 사전 처리된 데이터에 대한 신경망 적합성 비교.
두 경우 모두 데이터는 교차 검증을 위해 고정된 20% 검증 열을 사용하여 쌍곡선 탄젠트 활성화 함수가 있는 하나의 은닉층과 세 개의 노드에 적합했습니다.
부트스트랩 숲
Bootstrap Forest 접근 방식을 사용하면 주어진 스펙트럼 세트에 대해 가장 중요한 파장을 제공합니다. 또한 전처리가 훨씬 더 나은 모델을 제공한다는 분명한 표시입니다. 차이는 Validation R을 기반으로 합니다. 2 각 데이터 세트에 대해 검증 R 2 원시 데이터의 경우 0.805이고 처리된 데이터의 경우 유효성 검사 R 2 0.987입니다. 아래 모델은 검증 세트의 무작위 선택을 피하기 위해 검증 세트로 데이터의 고정 20%를 사용하여 적합했습니다.
그림 12 - 원시 및 사전 처리된 데이터에 대한 부트스트랩 포리스트 적합성 비교.
지원 벡터 회귀
SVR(Support Vector Regression) 모델링은 JMP Pro에서도 사용할 수 있으며 스펙트럼 데이터 분석을 위한 또 다른 좋은 대안입니다. SVR은 연속 응답을 위한 예측 모델을 구축하는 데 사용되는 강력하고 유연한 경계 기반 기계 학습 알고리즘입니다. 우리 데이터 세트의 경우 SVR도 처리된 데이터를 분석할 때 상당한 개선을 보여줍니다.
그림 13 - 원시 및 사전 처리된 데이터에 대한 SVR 모델 적합성 비교.
JMP 및 JMP Pro에는 스펙트럼 데이터를 모델링하는 데 사용할 수 있는 더 많은 모델링 기술이 있으므로 사용하고 싶거나 사용한 적이 없는 경우 저희에게 알려주십시오. 미래의 블로그 포스트.
1) " 확장된 곱셈 신호 보정으로 분리된 광산란 및 흡광도. 분말 혼합물의 근적외선 투과 분석에 적용 " 분석 화학 2003년 2월 1일;75(3):394-404
