| 스피커 |
성적 증명서 |
| 필립 J. 램지 |
안녕하세요, 저는 뉴햄프셔 대학교와 Predictum의 필 램지입니다. 그리고 공동 발표자인 Predictum의 웨인 레빈과 마리 고다르와 함께 |
| |
뉴햄프셔 대학과 Predictum의 명예교수로서, 우리는 현대 혼합 디자인에 대한 강연을 할 예정입니다. |
| |
그리고 이번 강연의 의제는 머신 러닝과 실험 설계에 대해 이야기하고 혼합 설계가 무엇인지 간략하게 소개하는 것입니다. |
| |
DOE를 위한 새로운 머신 러닝 방법인 자동 검증에 대해 말씀드리겠습니다. 이 방법은 앙상블 모델링과 결합되어 자체 검증 앙상블 모델링 방법론이라고 부르는 것을 만들어냅니다. |
| |
그리고 우리는 자체 검증 앙상블 모델링인 SVEM에 대해 이야기하고 혼합 실험을 사용하여 데모를 수행한 다음 다음에 대해 이야기할 것입니다. |
| |
SVEM 방법과 공간 충진 설계에 대해 이야기할 예정입니다. Wayne Levin은 Predictum에서 SVEM을 수행하기 위해 개발한 추가 기능에 대해 설명하고, 요소 실험 시연도 진행할 예정입니다. |
| |
그리고 저는 최근에, 사실 올해만 해도 이미 세 건의 논문이 발표되었고 그것은 곧 이 주제에 대한 저널에 게재될 논문에 관한 것이 될 것이라는 점을 지적하고 싶습니다. |
| |
DOE와 머신 러닝을 통해 사람들은 머신 러닝 방법이 전통적으로 빅데이터에 적용되었음을 발견했습니다. |
| |
DOE에 많은 적용 가능성이 있을 수 있으며, 저희도 이에 동의합니다. 그리고 혼합 실험에서 이러한 기법을 어떻게 효과적으로 활용할 수 있는지 보여드리겠습니다. 하지만 소위 머신 러닝 적용의 전통적인 한계 중 하나는 |
| |
DOE와 같은 소규모 데이터 세트의 경우, 매우 큰 데이터 세트가 필요하다는 믿음이 있습니다. 하지만 이는 사실 완전히 사실이 아닙니다. |
| |
그리고 여러분이 보게 될 것처럼, 저와 JMP의 Dr. Chris Gotwalt를 포함한 많은 사람들이 개발한 SVEM 방법은 다음과 같습니다. |
| |
실제로 우리는 실험 설계에서 발견한 것처럼 훨씬 더 작은 데이터에 이러한 전통적인 빅데이터 방법을 적용하는 것을 매우 실현 가능하게 만들었습니다. |
| |
머신 러닝은 실제로 예측에 관한 것이므로 통계적 모델링을 두 가지 접근 방식으로 나눕니다. 하나는 설명적 접근 방식으로, 고전적이며 가설 검정과 P값 및 매개변수에 초점을 맞춥니다. |
| |
이는 일반적으로 좋은 예측 모델로 이어지지 않지만, 머신 러닝은 예측에만 집중합니다. |
| |
이것이 바로 우리의 관점이고, 오늘 우리는 이를 활용하여 혼합물 실험에 적용할 것입니다. 머신러닝을 활용할 것입니다. |
| |
예측을 위해서입니다. 우리의 초점은 설명이 아니며, 보시다시피 이러한 예측 머신 러닝 방법을 소규모 실험 설계에 적용할 수 있을 것입니다. |
| |
데이터 세트. 전통적으로 예측 모델을 평가하는 방법은 데이터의 일부를 학습에 사용하는 것인데, 이를 학습 세트라고 부르는데, 매우 일반적인 방법입니다. |
| |
그리고 또 다른 전략이 있는데, 어떤 면에서는 우리가 억제해 온 것들입니다. 여러 가지 전략이 있는데, 그중 하나인 억제 전략에 대해서만 이야기해 보겠습니다. |
| |
우리는 이를 제쳐두고, 모델을 훈련 세트에 학습시킨 후, 홀드백 세트(또는 검증 세트)를 통해 예측 성능을 평가합니다. 다시 말해, 모델 학습에 사용되지 않는 데이터를 예측하는 것입니다. |
| |
하지만 이 전략은 실험 계획법(DOM)에는 적합하지 않습니다. 실험 계획법은 매우 효율적이고 정보 중심적이기 때문입니다. |
| |
그리고 일반적으로 검증 세트를 개발할 충분한 자원이나 예산이 없습니다. 검증에 사용할 수 있는 추가 실행을 수행하는 사람은 거의 없습니다. |
| |
따라서 이는 예측 모델링에 머신 러닝을 사용하는 데 장벽이 될 수 있지만, 앞으로 보여드리겠지만 이 SVEM 방법을 사용하면 이런 제약을 해결할 수 있습니다. |
| |
SVEM에 들어가기 전에, 혼합 설계에 대해 간단히 설명드리겠습니다. 여러분 중 일부는 이 설계에 익숙하고, 일부는 모른다는 걸 알고 있습니다. |
| |
이는 특별한 유형의 실험 설계입니다. 사람들이 잘 모르기 때문에 그리 흔하지는 않지만, 특정 제형이나 레시피를 사용하여 실험하는 것을 의미하며, 이러한 제형의 구성 요소는 말 그대로 액체, 기체 또는 고체일 수 있습니다. |
| |
그리고 중요한 개념 중 하나는 반응에 미치는 영향은 구성 요소의 상대적 비율에만 달려 있다는 것입니다. |
| |
그래서 저희는 레시피처럼 재료의 비율에 매우 신경을 씁니다. 양에는 초점을 두지 않습니다. 만약 재료의 총량이 중요하다면, 이는 '혼합량'이라는 또 다른 유형의 실험으로 이어지지만, 이는 오늘의 주제 범위를 벗어납니다. |
| |
하지만 이것들은 제형의 구성 요소이기 때문에 이러한 요소에는 제약이 있습니다. 다시 말해, 총량을 제한해야 하며, 때로는 자연스럽게 발생합니다. |
| |
하지만 비율 또한 제약되어야 합니다. 따라서 혼합 실험에서는 요인 실험과 달리 요인을 독립적으로 변경할 수 없습니다. |
| |
따라서 많은 사람들이 익숙한 기존 DOE에서는 요인들의 결합 설정에 제약 조건이 없습니다. 경우에 따라 제약 조건이 있을 수 있지만, 일반적으로는 제약 조건이 없습니다. |
| |
반면, 혼합물 실험은 어떤 제형의 성분이기 때문에 총량의 합이 1 또는 100%가 되어야 합니다. 따라서 Q 계수가 있다면, 모든 시행에 대한 Q 실험 계수의 설정값의 합은 1이 되어야 합니다. 또한, |
| |
개별 구성 요소에 대한 설정은 0~1 사이 어딘가에 있어야 합니다. 또한 오늘은 이에 대해 논의할 시간이 없지만 다음 사항도 지적하겠습니다. |
| |
혼합 설계의 중요한 변형 중 하나는 혼합 공정 실험이라고 하는데, 여기서는 혼합 요인과 공정 요인을 결합합니다. |
| |
혼합물의 거동 때문에 이렇게 합니다. 예를 들어, 3액형 접착제와 같은 경우, 가공 조건에 따라 거동이 크게 달라집니다. 따라서 접착제 경화에 필요한 압력과 온도, 그리고 최적의 경화 조건 등을 살펴볼 수 있습니다. |
| |
레시피는 일반적으로 이러한 공정 요인에 따라 변경됩니다. 이는 오늘 강연의 범위를 벗어나지만, 혼합물의 중요한 측면입니다. |
| |
따라서 역사적으로 사람들이 혼합물을 분석하고 심지어 혼합물을 만들 때...만들었을 때 초점은 설명적 목표에 맞춰졌습니다. |
| |
매개변수, P값, 신뢰구간에 대한 가설 검정. 그러나 혼합물의 경우 일반적으로 혼합물은 본질적으로 많은 |
| |
요인과 효과 간의 다중공선성 또는 상관관계가 있습니다. 총량은 제한되어 있고, 그 합이 1이 되어야 하므로 설계상 독립성을 가질 수 없습니다. 그러나 |
| |
우리는 이런 전통적인 관점에 동의하지 않으며, 혼합 실험에 대한 많은 경험을 바탕으로 솔직히 말해, 목표는 언제나 예측입니다. |
| |
설명이 아닙니다. 우리는 혼합물이나 레시피의 성능을 예측하는 데 집중하고 있으며, 과학자나 엔지니어들이 관심을 갖는 부분이 바로 그것입니다. |
| |
과학자들이 필요로 하는 것과 우리가 혼합물을 분석하는 방식 사이에는 큰 차이가 있었습니다. 또한, 기존 설계의 상당수는 우리가 경계점 설계라고 부르는 것과 같은 형태였습니다. |
| |
D 최적이라는 용어에 익숙하다면, 그것은 매우 D 최적이라는 경향이 있습니다. 즉, |
| |
대부분의 지점은 경계 주변에 할당되어 있으며, 내부 정보는 거의 없습니다. 지점은 매우 적고, 아예 없는 경우도 있습니다. |
| |
설계 영역 내부에 있습니다. 이것이 왜 중요할까요? 혼합 시스템, 특히 화학 및 생물학 분야에서는 |
| |
매우 복잡한 경향이 있습니다. 매우 복잡한 동역학이 진행 중이며, 이러한 반응 표면은 매우 복잡한 모양을 가지고 있습니다. |
| |
그리고 설계 영역 내부에 대한 충분한 정보가 없다면, 실제로 시스템의 동작을 나타내는 모델을 만들어낼 수 없을 가능성이 큽니다. |
| |
그리고 이런 일은 실제로 혼합 설계의 역사에서 꽤 자주 일어났습니다. 그리고 다시 말씀드리지만, 오늘은 이 문제에 대해 이야기할 시간이 없습니다. |
| |
과거의 분석이나 모델링에 대한 고전적인 접근 방식은 제가 Scheffe 다항식이라고 부르는 것입니다. |
| |
이는 혼합물에 사용하도록 설계된 다항식의 한 유형입니다. 다양한 변형이 있지만, 이러한 모의 다항식은, 특히 고전적인 형태에서는, 이러한 반응 표면을 모델링하기에 부적합한 경우가 많습니다. |
| |
그렇다면 이 문제에 어떻게 접근해야 할까요? 음, 저희는 혼합 설계에 공간 충진 설계의 관점에서 접근해야 한다고 생각합니다. |
| |
그리고 왜 공간을 채우는 디자인일까요? 이 역시 따로 이야기할 수는 있겠지만, 공간 채우기 디자인은 주어진 수의 디자인 포인트에 맞춰 디자인 공간을 최대한 채우도록 만들어진 디자인입니다. |
| |
그리고 디자인 포인트의 개수 |
| |
사용자에게는 옵션입니다. 이를 통해 실제로 더 작은 디자인을 사용할 수 있습니다. |
| |
고전적인 설계를 사용했고, 설계 영역을 포괄했습니다. 결과적으로 더 정확하고 유용한 예측 모델을 얻을 수 있습니다. 설계 영역 전체에 대한 더 나은 정보를 얻을 수 있습니다. |
| |
그리고 혼합물에 대한 우리의 접근 방식은 모두 우주 영화 디자인의 사용을 기반으로 하고 있으며, 이는 최근 몇 년 동안 업계에서 확인된 추세입니다. |
| |
이제 주제를 바꿔서 이야기해보겠습니다. 혼합물을 만들고, 실행한 뒤에, 어떻게 분석할까요? |
| |
앞서 말씀드렸듯이, DOE에 머신 러닝을 적용할 때 발생하는 문제 중 하나는 자연스러운 검증 세트가 없다는 것입니다. Gotwalt와 Ramsey, 즉 저와 Chris Gotwalt 박사는 실제로 자동 검증이라고 부르는 검증 방법을 제안했습니다. |
| |
이에 대한 첫 번째 발표는 몇 년 전 Discovery Europe 컨퍼런스에서 이루어졌습니다. |
| |
직관적으로 들리지 않을 수도 있지만, 잘 들어보세요. 원본 데이터, 즉 원래 실험을 학습 및 검증에 사용할 수 있습니다. 다시 말해, 원본 데이터를 가져와서 복사본이나 복제본을 만드는 것입니다. |
| |
이를 자동 검증 세트라고 합니다. 즉, 훈련 세트의 모든 관측값은 자동 검증 세트 자체에 쌍을 이룹니다. |
| |
이것 자체로는 말이 안 되는 것처럼 들립니다. 자동 검증 세트가 훈련 세트와 동일한 관측치를 가지고 있는데, 어떻게 예측 능력에 대한 독립적인 평가를 제공할 수 있겠습니까? 글쎄요, 그 자체로는 불가능합니다. |
| |
자동 검증 아이디어의 핵심은 관찰 결과에 가중치 체계를 적용한다는 점이며, 이 체계는 감마 분포에서 가중치를 생성하는 데 기반을 두고 있습니다. |
| |
그런데 감마 분포는 통계 응용 프로그램에서 가중치를 부여하는 데 흔히 사용됩니다. 감마 가중치는 여러 가지 좋은 특성을 가지고 있는데, 오늘은 다루지 않겠습니다. |
| |
그리고 우리가 하는 일은 가중치 집합을 생성하는 것인데, 특별한 방식으로 합니다. 훈련 집합의 관측치가 높은 값을 가지면 높은 가중치를 갖게 되고, |
| |
자동 검증 세트의 관측치, 즉 쌍둥이 관측치는 낮은 가중치를 받습니다. 왜 이렇게 할까요? 두 데이터 세트 간에 상관관계가 반대로 나타나기 때문입니다. |
| |
다시 말해, 우리는 가중치 체계를 사용하여 세트 간의 상관관계를 없애려고 노력하고 있으며, 지난 몇 년 동안 이에 대한 많은 연구가 진행되었습니다. 이는 이 접근법이 매우 효과적임을 시사합니다. |
| |
그리고 이 모든 결과를 공개하는 논문이 곧 나올 예정입니다. 그래서 이 가중치 체계를 사용하는 것이 목표입니다. |
| |
훈련 세트에서 감마 가중치를 할당하고 자동 검증 세트가 있으며 각 쌍둥이에 해당 가중치를 할당합니다. 따라서 훈련 세트에 높은 가중치가 있는 경우, |
| |
자동 검증 세트의 트윈은 가중치가 낮아지고, 이로 인해 이러한 역상관 현상이 발생합니다. 그리고 이 전략을 사용자가 지정하는 횟수만큼 반복합니다. 다음 슬라이드에서는 간단한 실험의 예를 보여드리겠습니다. 세 가지 요인이 있습니다. 참고 |
| |
런 1~7은 훈련 세트, 즉 원본입니다. 런 8~14는 복제본 또는 복사본입니다. 두 세트의 관측값이 정확히 동일하고, |
| |
쌍으로 된 FWB 웨이트. FWB에 대해서는 잠시 후에 설명하겠습니다. |
| |
그리고 관찰치 1과 같은 관찰치가 높은 가중치를 받으면, 쌍둥이인 관찰치 8은 낮은 가중치를 받습니다. 따라서 관찰치 8은 검증 세트에 포함됩니다. |
| |
따라서 부분 가중치라는 개념이 중요하므로, 반응에 부분 가중치를 적용하여 분석을 수행합니다. 그런 다음 이 전략을 반복합니다. |
| |
일정 횟수(그리고 횟수는 사용자와 상황에 따라 달라집니다)를 반복하고 매번 모델을 적합시킵니다. 다시 말해, 저희는 기본적으로 부분 가중치 부트스트래핑이라고 부르는 방식을 사용합니다. |
| |
분수 가중치 부트스트래핑이란 무엇일까요? 기본적으로 부트스트래핑의 한 형태이며, 일반화 부트스트래핑이라고도 합니다. |
| |
관측치를 부트스트랩하지 않는 방법입니다. 관측치에 적용된 가중치를 부트스트랩합니다. 이는 잘 알려진 방법론이며, 저희는 이를 적용합니다. |
| |
다른 점은 이것을 반복적으로 적용한다는 것입니다. 앞서 말했듯이 수백 번, 수천 번이 될 수도 있고, 전적으로 사용자에게 달려 있습니다. |
| |
매번 모델을 적합하고 마지막으로 평균이나 앙상블을 구합니다. 이것을 앙상블이라고 부르는데, 여기서 앙상블이라는 용어가 유래되었습니다. |
| |
자체 검증 또는 자동 검증은 자체 검증 앙상블 모델링입니다. 우리는 평균을 구하고 있습니다. |
| |
그런데 앙상블 모델링은 머신 러닝과 딥 러닝에서 매우 흔합니다. 보다 안정적이고 예측성이 더 뛰어난 모델링을 가능하게 하기 때문입니다. |
| |
따라서 SVEM은 부분 가중 부트스트래핑을 통해 모델군을 생성한 다음 모델 평균화를 사용하여 최종 예측 모델을 제시합니다. |
| |
그렇다면 이 방법은 어떻게 작동할까요? 예측 모델링을 위한 알고리즘을 선택하면 됩니다. 이 경우에는 신경망에 초점을 맞춰 보겠습니다. |
| |
혼합 설계를 사용하지만 다른 방법을 선택할 수도 있습니다. SVEM은 어떤 알고리즘을 사용하는지에 대해 거의 독립적이며, 다양한 알고리즘에 매우 적합합니다. 따라서 학습 및 자동 검증 세트를 만들고, 부분 가중치를 할당합니다. |
| |
그런 다음 모델을 적합하고, 사용자가 정의한 횟수만큼 부트스트랩을 한 후 평균을 구합니다. 좋아요, 이제 제 동료 Wayne Levin에게 넘겨드리겠습니다. 그는 SVEM을 시연하고 이를 위한 추가 기능에 대해 설명할 것입니다. |
| 웨인 |
나는 여기서 그냥 전환하고 있어요 |
| |
화면을 공유합니다. |
| |
그리고 파워포인트로 전환하겠습니다. |
| |
정말 고맙습니다, 필. 이 예시, 즉 요소 데이터를 사용할 겁니다. 실험의 목적은 세정제 용액을 최적화하는 것입니다. |
| |
이 혼합물의 세 가지 성분은 물, 알코올, 요소입니다. 그래서 여기 이 세 개의 열이 있습니다. 그리고 우리는 점도라는 하나의 반응에 집중할 것입니다. 목표는 100이지만, 여기 아래에서 볼 수 있듯이, |
| |
점도는 95에서 105 사이가 되기를 바랍니다. 따라서 JMP로 전환하겠습니다. |
| |
좋아요, 여기 요소 데이터가 있습니다. 방금 열어봤는데, 실행 횟수가 15회밖에 안 되니 다음 단계로 넘어가겠습니다. 다음 단계는 |
| |
자동 검증 테이블을 만드는 과정이죠. 이 테이블을 클릭하면 몇 가지 작업이 진행됩니다. 먼저, 새 테이블이 생성되고, 처음 15개의 실행이 있는데, 여기와 정확히 같습니다. 그리고 각 실행에 대해... 예를 들어, 이 첫 번째 행(52, 29, 19)에 초점을 맞추면, |
| |
여기 아래쪽에서 반복되는 걸 볼 수 있어요. 52, 29, 19. |
| |
마찬가지로 두 번째 줄은 57, 23, 19가 됩니다. 물론 이 모든 것을 반복할 생각은 없지만, 대략적인 내용은 이해하셨을 겁니다. 이 조합들을 반복하는 것뿐입니다... |
| |
여기 아래 두 번째 세트에는 첫 번째 세트가 있는데, 첫 번째 세트는 훈련에 사용되는 것이고, 두 번째 세트는 여기에 표시된 대로 검증에 사용되는 것입니다. 이제 그 사이에 Phil이 말했던 쌍을 이루는 분수 가중치 열이 있습니다. |
| |
위쪽에 높은 숫자가 보이면 아래쪽에는 그에 상응하는 낮은 숫자가 나타나는 경향이 있는데, 이는... |
| |
음, 필이 말했던 감마 분포 말이야. 그럼 그냥 보여드리면 어떨까? 여기 가중치를 그려볼게. |
| |
화면에 배치합니다. 따라서 반복 작업을 수행할 때마다 가중치가 새로 고쳐집니다. 여기 가중치를 살펴보고 |
| |
여기 열, 바로 여기 이 열. 그래서 여러분이 볼 수 있도록 실행해 보겠습니다. 그래서 각 반복마다 새로운 세트가 생성됩니다. |
| |
훈련 세트와 검증 세트 모두에 대해 부분 가중치가 적용된 쌍입니다. 좋습니다. 다음으로는 |
| |
적합 모델을 만들어 봅시다. 그러니까, 말하자면, 한 번의 반복을 하게 될 겁니다. |
| |
그래서 점도가 반응입니다. 여기 아래에서 빈도 역할에 분수 가중치 부트스트래핑 가중치가 쌍으로 적용되어 있다는 것을 확인하세요. 그래서 모델링에 반영되는 방식입니다. 자, 이제, 한 번의 반복을 마치겠습니다. |
| |
좋아요, 이 특정 가중치를 기준으로요. 음, |
| |
앙상블 모델을 만들려면 이 과정을 반복적으로 해야 합니다. 그래서 이제 새로운 가중치를 적용해서 실행해 보겠습니다. |
| |
잘 봐두세요... 세 곳을 동시에 봐야 하니까요. 좀 어려울 수도 있어요. 저는 그냥 이것들을 배치해 보려고요. 알겠어요. |
| |
따라서 여기서 새로운 가중치로 실행을 클릭하면 여기 가중치가 변경되고 모델이 생성되며 예측 모델이 저장됩니다. |
| |
여기 위에. 여기서 하나 해 볼게요. 한번 해 볼까요. 쾅, 모델 제작 방식이 바뀌었네요. |
| |
모델을 여기에 저장하세요. 이 열도 추가되었습니다. Phil이 말했던 앙상블이고, 평균입니다. 물론 반복을 한 번만 했기 때문에 평균은 |
| |
동일합니다. 그래서 여기서 또 다른 반복을 수행하여 새로운 가중치 집합과 새로운 모델을 얻고, 새로운 모델이 저장되었습니다. 이제 여기 앙상블 모델은 이 두 가지의 평균입니다. |
| |
여기요. 그래서 그냥 몇 번 더 해볼게요. 어렵지 않아요. 이런 것들을 볼 수 있어요. |
| |
진행하면서 변화합니다. 이제 여섯 가지를 준비했는데, 이 여섯 가지를 잠깐 살펴보겠습니다. |
| |
모델... 개별 모델뿐만 아니라 평균 모델, 앙상블, 그리고 여기 프로파일러에 표시된 것들이죠. 그리고 이것은 오히려 불안정성을 보여줍니다. |
| |
Phil은 이전에 암시했듯이, 만약 당신이 이것을 한 번만 한다면... 이제 저는 여기서 분수 가중치가 진행되고 있다는 것을 알고 있지만 Phil이 언급했듯이, 제가 정말로 할 수 있는 모든 지점의 움직임은 |
| |
모델을 방해하면 실제로는...에 적합하지 않은 기능이 생길 것입니다. |
| |
어쩌면 거기에 실제로 속하지 않을 수도 있습니다. 그것들은 단지 특정 디자인 포인트의 아티팩트일 뿐입니다. 하지만 여기 한번 보세요. 어떻게 되는지 알 수 있습니다. |
| |
각 모델은 겉보기에 서로 다른 특징을 가지고 있습니다. 하지만 아래의 평균 모델은 어떤 의미에서는... 글쎄요, 위에 있는 모든 모델의 평균이라고 할 수 있죠. |
| |
그리고 여러분은 그 점을 어느 정도 보실 수 있을 겁니다. 여기 있는 큰 굴곡이 어느 정도 매끄러워지는 거죠. 여기 아래에서 조금 보이시죠. |
| |
지금은 6번의 반복만으로 충분하지만, 추가 기능을 사용하면 실제로는 50번의 반복을 수행하는 것이 좋습니다. |
| |
하지만 제가 또 한 가지 할게요. 실제 결과와 예측 결과를 비교해 볼게요. 자, 이건 꽤... |
| |
꽤 일관적이에요. 어쨌든 선들은 거의 모두 기울기가 1이에요. 이렇게 할 때 종종 더 많은 변화를 볼 수 있지만, |
| |
일반적인 모델에서는 이 특정 예시에서는 보기가 조금 어렵지만, 기본적으로 다른 선들의 질량을 관통하는 실선입니다. 그래서 이 선들을 옆으로 치우고 다음으로 할 일은 다음과 같습니다. |
| |
여기서 실제로 여러 번 실행해 보겠습니다. 이 데모에서는 25번 반복할 것 같습니다. 모델 변경 사항과 가중치를 확인할 수 있습니다. |
| |
여기서 바뀌고 있어요. 여기 위에는 새로운 게 추가되는 게 아니에요. 그냥 살펴보는 거예요. 짠, 끝났어요. 이제 보고서를 살펴보겠습니다. 그럼 바로 열어볼게요. |
| |
처음에는 실제값과 예측값을 비교하는 그래프와 잔차 그래프를 작성합니다. 여기에서도 살펴보는 것이 좋을 것 같습니다. |
| |
프로파일러. |
| |
그리고 저는 프로파일러를 좋아해요. |
| |
혼합물에 아주 적합해요. 보시다시피, 물을 바꾸거나 늘리면 다른 두 가지가 줄어듭니다. 그게 바로 |
| |
혼합물의 본질적인 특성상 당연히 모두 1을 포함하거나 1에 가까워야 합니다. 좋습니다. 이게 평균적인 모델이라고 할 수 있겠습니다. |
| |
여기서 진행된 25번의 피팅에 대한 앙상블 모델, 알겠습니다. 그럼 제가 말씀드릴 수 있다면, |
| |
이제 혼합물 프로파일러를 잠깐 살펴보겠습니다. |
| |
여기서 이런 모습이 보입니다. |
| |
사실, 제가 말씀드릴 수 있다면, 이것에서 알 수 있는 것은... |
| |
점들을 보세요. 점들이 아주 잘 들어맞는 게 보이시나요? 이것이 바로 이 디자인의 공간 채우기 특성이고, 이 디자인에는 실제로 제약 조건이 있다는 것도 알 수 있을 겁니다. |
| |
따라서 우리는 물 0-1이나 요소 0-1 등의 전체 공간을 결코 다루지 않으므로 여기에 이러한 제약 조건이 있습니다. |
| |
그리고 지금 제가 할 일은 한계를 넣어서 시각화하는 것입니다. 95에서 105까지 시각화해 보겠습니다. 그러면 여기 빈 공간에서 제가 할 수 있는 일이 보일 겁니다... |
| |
그렇다면 어떤 조합이 그 조건을 만족시킬까요... 사양은 여기까지입니다. |
| |
좋아요, 그게 시연이에요 |
| |
SVEM 방법의 방법론을 원하신다면, |
| |
그럴 수도... 그냥 그럴게요. |
| |
SVEM과 공간 충진 설계가 바로 그것입니다. 다시 한번 말씀드리지만, 이 분야의 가장 큰 동기 중 하나는 본질적으로 불안정하기 때문입니다. |
| |
데이터의 작은 변화가 예측에 큰 변화를 가져올 수 있고, 당연히 단일 예측 모델은 결과적으로 불안정해질 수 있습니다. 결국에는 이런 문제점들이 발생하고, |
| |
보기만 해도 꽤 불안해지는데, 그게 운동이 일어나는 방식이 아니기 때문이죠. |
| |
그래서 안정성이 필요하고, 분수 가중 부트스트래핑을 기반으로 한 여러 모델의 앙상블이 필요합니다. |
| |
또 다른... 또 다른 중요한 점은 이런 상황에서 본질적으로 존재하는 다중공선성입니다. 혼합물은 복잡한 시스템입니다. |
| |
구성 요소의 행동의 총합이 아닙니다. 실제로는 상호작용의 산물입니다. 그래서 다시 한번 말씀드리지만, 저는 프로파일러를 좋아합니다. |
| |
그 상호작용들이 정말 아름다워요. 그 역학 관계가 정말 멋지게 드러나죠. 다중공선성이 존재하기 때문에 다중공선성이 완화되고 더 안정적이고 정확한 예측 모델이 탄생합니다. 지금까지 이 모델을 실행해 왔는데... |
| |
사실 몇 년 전으로 거슬러 올라가지만 |
| |
SVEM 추가 기능을 만든 이후로, 잠깐 설명드리겠지만, 올해 초부터 지금까지 여러 번 실행해 보았는데, 정말 훌륭한 결과를 얻었습니다. |
| |
저희 고객들은 매우 만족하고 있습니다. 말씀드린 것처럼, SVEM을 사용한 모델 평균화는 자동화된 것이 아니며, JMP Standard나 JMP Pro도 아닙니다. 하지만 추가 기능이 있으며, Predictum.com 웹사이트를 방문하시면 추가 기능과 사용 방법을 자세히 알아보실 수 있습니다. |
| |
네, SVEM 관련 페이지가 있어요. 모던 믹스 디자인 과정도 있는데, Marie, Phil, 그리고 저와 함께하는 수업이에요. |
| |
Predictum 사이트의 교육 페이지에서 확인하실 수 있습니다. 고전적인 혼합 설계에 대한 내용도 다루지만, 강의의 3분의 2에서 4분의 3 정도만 SVEM을 다룹니다. |
| |
SVEM 추가 기능은 강의의 일부로 제공됩니다. 이번 강연에서는 데이터에서 예측 모델을 구축하는 방법을 살펴보았습니다. |
| |
데이터는 과적합을 제어하기 위한 검증 시행의 타당성에 의해 제한됩니다. 아시다시피, 고전적인 설계 실험에서는 실행을 수행할 수 있는 실행 횟수가 없습니다. |
| |
학습과 검증 모두에 적용되므로, 특히 혼합 DOE의 경우 공간 채우기 설계를 사용하는 것이 좋지만, 실제로는 다른 DOE 상황에서도 일반적으로 사용할 것을 제안합니다. 또한 자동 검증과 부분 가중 부트스트래핑을 기반으로 하는 SVEM에 대해서도 설명했습니다. |
| |
그리고 우리는 SVEM이 별도의 검증 실행 없이도 DOE 데이터에 대한 예측 모델링을 가능하게 하는 방법에 대해 논의했습니다. |
| |
그리고 우리는 요소 실험 데이터를 사용하여 SVEM을 시연했습니다. |
| |
그리고 슬라이드를 다운로드하시면 정말 많은 참고 자료를 찾으실 수 있다는 점을 알려드리고 싶습니다. 여기 몇 가지를 더 소개하고, 제가 이 슬라이드에서 가장 좋아하는 점 중 하나는 |
| |
실제로 이 문제는 1996년까지 거슬러 올라갑니다. 이는 꽤 오랫동안 진행되어 온 문제이며, 여러분께서 이 참고 자료를 살펴보시기를 권장합니다. |
| |
그러면 질문을 받겠습니다. |
