베이지안 최적화; 글로벌 최적화를 위한 순차적 설계 전략한 고객이 베이지안 최적화에 대해 질문했습니다. 고객에게 비슷한 요청을 한 사람이 있나요?
일반적으로 베이지안 최적화는 어떠한 함수 형태도 가정하지 않는 블랙박스 함수의 전역 최적화를 위한 순차적 설계 전략입니다. 이 방법은 기계 학습 모델을 조정하는 데 사용되었습니다. 베이지안 최적화는 최근 제조업에서도 적용되고 있다(시뮬레이션 실험 및 실제 실험용).
내 고객은 이전 실험 데이터를 기반으로 다음 실행에 가장 적합한 후보 실험을 선택하고 싶어합니다.
다음은 화학 실험에 대한 응용 사례입니다.
https://www.nature.com/articles/s41586-021-03213-y
JMP는 고객이 JMP에서 베이지안 최적화의 몇 가지 단계를 수행할 수 있도록 가우스 프로세스 모델을 생성할 수 있다고 생각합니다.
유이치
답변: 베이지안 최적화; 글로벌 최적화를 위한 순차적 설계 전략고마워, 유이치.
이를 위한 전용 상용 소프트웨어 제품이 있다는 점이 흥미롭다.
나는 이러한 유형의 접근 방식에 관한 학술 논문을 꽤 많이 보았습니다. 그들 중 일부는 R 또는 Python 기반의 오픈 소스 애플리케이션을 제공했습니다. 내가 이 논문에서 보는 모든 접근 방식은 "로봇" 또는 "알고리즘"입니다.
JMP를 사용하면 과학자가 각 단계에서 데이터를 대화형으로 탐색하여 해당 영역에 대한 이해를 바탕으로 프로세스를 안내할 수 있다는 장점이 있습니다.
문안 인사,
필
답변: 베이지안 최적화; 글로벌 최적화를 위한 순차적 설계 전략오늘 한 고객과 이야기를 나눴는데, 그들은 실험에 JMP를 사용할 수 있다고 느꼈습니다. 참고로 다음 제품도 이러한 목적의 후보 소프트웨어입니다.
https://citrine.io/product/what-is-the-citrine-platform/
감사해요,
유이치
답변: 베이지안 최적화; 글로벌 최적화를 위한 순차적 설계 전략고마워요, 필. 모든 정보는 나에게 도움이 됩니다.
공간 채우기 디자인과 가우스 프로세스 모델의 결합이 고객을 위한 솔루션이 될 것이라고 이해합니다. 그것은 나에게 의미가 있습니다.
Discovery Europe에서의 프레젠테이션에 대해 알려주셔서 감사합니다. 나는 귀하와 Ryan의 접근 방식이 Covariate/Candidate Run 기능과 XGboost의 조합이라는 것을 알고 있습니다. 제 생각에는 JMP Pro 고객에게도 효과가 있을 것 같습니다.
저는 이러한 접근 방식을 고객에게 제안하겠습니다. 고객이 좋은 결과를 얻으면 알려 드리겠습니다.
감사해요,
유이치
답변: 베이지안 최적화; 글로벌 최적화를 위한 순차적 설계 전략예, @yuichi_katsumur . 공간 채우기 디자인과 가우스 프로세스 모델의 조합이 고객을 위한 솔루션이 될 것이라고 생각합니다.
특히 화학 분야에서 이러한 접근 방식에 대한 고객들의 관심이 높아지고 있다고 생각합니다. 현재로서는 JMP를 사용하고 있는 고객이 있는지는 모르겠습니다.
그리고 나는 당신이 공유한 논문을 포함하여 이에 관한 꽤 많은 논문을 보았습니다.
한 고객이 소금 농도가 샴푸 점도에 미치는 영향을 확인하기 위해 이 접근 방식을 사용하는 것에 대해 문의했습니다.
제가 제안하는 접근 방식은 다음과 같습니다.
- 시작 데이터 세트가 필요합니다. 내가 읽은 논문에서는 요인 공간의 무작위 데이터 포인트 세트로 시작하는 경우가 많습니다. 하지만 작은 공간을 채우는 디자인이 더 좋을 것 같아요. 이 실험을 수행하고 각 실행에 대한 반응을 기록하십시오.
- 공간 채우기를 사용하여 매우 많은 수(예: 1000)의 실행으로 시작 데이터세트를 확장합니다. 이 모든 것을 실행하지는 않으므로 매우 큰 수를 선택할 수 있습니다. 이제 실행 횟수가 매우 많은 데이터 테이블이 생겼습니다. 이 중 몇 가지에 대한 응답만 얻을 수 있습니다.
- 가우스 프로세스 모델을 사용하여 요인에 대한 응답을 모델링합니다. 예측 수식 저장 및 분산 수식 저장. 이제 소수의 실행에 대한 실제 반응과 모든 실행에 대한 분산 및 예측 반응을 얻었습니다.
- 테스트되지 않은 실행 중에서 분산이 가장 큰 실행을 찾습니다. 이 실행에 대한 실제 응답을 기록합니다.
- 목표를 달성할 때까지 3단계와 4단계를 반복합니다.
말이 돼?
설명하는 데 도움이 될 수 있는 데이터 테이블을 첨부했습니다. 샘플 데이터 폴더의 "2D Gaussian Process example.jmp"를 기반으로 합니다.
사람들은 "착취"와 "탐색"에 대해 이야기합니다. 위의 접근 방식은 요인 공간에서 가장 불확실한 영역을 탐색하기 위해 다음 실행을 선택하기 때문에 탐색입니다. 활용은 최적의 반응(예: 최고 수율)을 가질 것으로 예측되는 실행을 선택하는 것입니다. 사람들은 탐색으로 시작한 다음 특정 지점에서 착취로 이동하는 접근 방식을 사용하는 경우가 많습니다.
@Ryan_Lekivetz 그리고 나 자신이 주었다 Discovery Europe에서의 프레젠테이션 여기서는 화학 공정의 순차적 최적화를 살펴보았는데 각 단계에서 48번의 실행을 수행할 수 있습니다. 우리는 탐색과 활용 접근법을 비교했습니다. 그리고 각 단계("라운드")에서 특정 임계값보다 큰 수율을 예측한 테스트되지 않은 실행에서 최적의 실행 집합이 선택되는 하이브리드 접근 방식을 살펴보았습니다. 각 단계에서 임계값을 높입니다. 이는 유용한 접근 방식인 것 같았습니다.
모든 것이 도움이 되기를 바랍니다. 귀하의 고객이 이 접근 방식을 시도하는지 알고 싶습니다.
감사해요,
필