최근에 통계적으로 말하자면 머신 러닝과 인공 지능에 대해 설명하는 저명한 작가이자 통계학자이자 교육자인 David Hand의 개회식은 전문 패널리스트인 WL의 통계학자인 Cameron Willden과 매우 흥미로운 토론의 장을 마련했습니다. 핏덩어리; Wildstats Consulting의 창립자 Sam Gardner; 그리고 JMP의 수석 시스템 엔지니어인 Jason Wiggins가 있습니다.
에서 이전 게시물 , 패널리스트는 실시간 스트리밍 이벤트 중에 받은 전문 지식 및 교육에 대한 질문에 답변했습니다.이 게시물에서 그들은 데이터 및 모델링에 대한 질문에 대한 생각을 공유합니다.첫 번째 질문은 적절하게도 David Hand의 최신 책 이름인 다크 데이터에 관한 것입니다. 다크 데이터: 모르는 것이 중요한 이유 (추천).
어두운 데이터의 반대는 밝은 데이터입니다. 희소식 아닌가요?
샘: 종종 조직의 데이터 과학 여정의 초기 단계에서 많은 다크 데이터 문제가 있음을 발견합니다.해결해야 할 주요 문제는 올바른 데이터를 얻는 방법입니다. 진정으로 문제를 해결하고 잘 해결하고자 하는 조직은 "밝고" 좋은 데이터를 생성하고 수집할 수 있는 접근 방식, 전략 및 시스템을 갖게 될 것입니다.
예를 들어 서포트 벡터 머신 또는 GenReg를 사용하여 JMP가 누락된 데이터만 "적합"할 수 있습니까? 누락된 데이터의 구조를 기존 데이터와 함께 사용하여 어떻게든 맞추려면 역 피팅과 같은 것입니까?이것은 "정보 누락"과는 다릅니다.
제이슨: 누락 값 탐색 유틸리티에서 다변량 SVD 대체 및 자동화된 데이터 대체를 확인하고 이것이 원하는 대로 작동하는지 확인합니다.
샘: JMP 및 JMP 프로 데이터의 상관 관계 구조를 기반으로 다중 전가를 수행할 수 있습니다.에 대한 온라인 도움말을 참조하십시오. 누락된 데이터 대치 그리고 결측값 탐색 .
상호 배타적이지 않은 다중 레이블 데이터를 처리하기 위해 어떤 종류의 기계 학습 모델을 사용할 수 있습니까?
카메론: 내가 당신을 올바르게 이해했다면, 당신은 단순히 복수 응답을 통해 이를 달성할 수 있습니다.예를 들어 모델은 누군가를 나이가 많거나 적거나 남성과 여성으로 구분하기 위해 이미지를 처리하고 이미지화할 수 있습니다.
프로세스 데이터의 가변성이 높은 프로세스 출력에 대한 예측 모델링에 접근하는 가장 좋은 방법은 무엇입니까?
카메론: 높은 변동성을 극복하는 가장 좋은 방법은 대량의 데이터를 사용하는 것입니다. 예를 들어, 평균의 표준 오차는 분모에 샘플 크기의 제곱근이 있습니다.
제이슨: 공정 변동의 원인을 식별합니다. 지속적으로 데이터를 측정하고 수집하는 데 투자하십시오. 공정에서 얼마나 많은 중요한 공정 입력이 측정됩니까? 출력의 변동을 적절하게 설명하기에 충분합니까? 나는 이와 같은 문제를 이해하기 위한 프로젝트에 참여하고 이끌었습니다.까다로울 수 있지만 필요합니다.모델링은 마술이 아닙니다. 성공하려면 좋은 정보가 필요합니다. 난해한 모델에 뛰어들기 전에 먼저 여기에 투자할 것입니다.
더 빨리 보상을 받기 위해(비용 절감) 작은 데이터 세트에서 새 모델을 훈련하고 싶을 때 이를 수행하기 위한 좋고 실용적인 팁은 무엇입니까? 완벽하지 않은 모델을 사용하는 경우에도 " 충분하다."
카메론: 딥 러닝 영역에서 전이 학습은 적은 비용으로 더 많은 작업을 수행할 수 있는 방법을 제공합니다.설계된 실험은 중복 정보의 양을 최소화하는 방식으로 포인트를 계획하기 때문에 데이터 포인트당 관계에 대한 더 많은 정보를 얻을 수 있는 또 다른 방법입니다.즉, 일반적으로 요인 간의 상관관계가 거의 없으므로 분산 인플레이션 요인은 1과 같거나 매우 가깝습니다.
제이슨: "leave one out" 또는 k-겹 교차 검증과 같은 전략은 과적합을 방지하기 위해 더 작은 데이터 세트에서 모델을 교육할 때 유용할 수 있습니다.두 가지 교차 검증 전략을 모두 사용하여 소규모 데이터 세트에 대한 불이익 회귀 모델로 성공했습니다.모델을 구축할 때 실제와 예측을 얼마나 자주 확인합니까? 예측이 비즈니스 결정을 내리는 데 적합하면 모델이 "충분히 양호"할 수 있습니다.
경험상 문제 해결을 위해 지속적/반복적 학습 모델과 오프라인/일회성 모델을 적용해야 하는 시간의 비율은 어떻게 됩니까?각각의 장단점은 무엇입니까?
카메론: 그것은 응용 분야에 따라 크게 다를 것입니다. 선행 지표를 기반으로 제품에 대한 수요를 모델링하는 경우 이러한 관계가 시간이 지남에 따라 발전할 것이라고 절대적으로 기대해야 합니다. 내 생산 모델이 시간이 지남에 따라 진화하고 적응하게 되면 매우 유리할 것입니다. 여러 물리적 속성을 기반으로 기계 출력을 모델링하는 경우 관계가 시간이 지남에 따라 안정적으로 유지되고 온라인 학습에 대해 크게 걱정할 필요가 없습니다. 더 많은 데이터가 들어옴에 따라 시간이 지남에 따라 내 모델의 매개변수 추정치가 더 정확해지기를 원하는 경우는 예외일 수 있습니다.
프로세스를 조사/관찰하기 위해 거기에 있지 않으면 문제의 원인을 놓칠 수 있습니다. 또한 COVID는 이것을 복잡하게 만듭니다. 연구자/문제 해결사/데이터 과학자로서 데이터를 수집하기 위해 "거기에" 있을 수 없을 때 우리는 무엇을 합니까?
카메론: 좋은 질문입니다. 제가 정말로 말할 수 있는 유일한 것은 데이터를 수집한 사람들을 데이터 분석에 참여시키는 방법을 알아내는 것입니다. 분석 배경이 없더라도 토론에 참여하고 토론과 해석에 기여할 수 있는 직접 경험에서 통찰력을 얻을 수 있을 만큼 그래픽 분석을 잘 이해할 수 있습니다.
제이슨: 이것은 힘든 것입니다!프로세스를 확인하는 데 사용할 수 있는 가상 도구가 있습니까? 프로세스를 실행하는 사람은 누구입니까? 데이터에서 나타나는 문제를 설명할 수 있는 프로세스에 대한 관찰을 수행하도록 교육을 받을 수 있습니까?가상 프로세스 워크를 수행할 수 있습니까?
풍부한 데이터는 데이터가 편향되지 않는다는 잘못된 보안으로 이어질 수 있습니다.새로운 반사실 데이터가 도착하는 동안 편향된 데이터를 많이 사용하는 완화 단계는 무엇입니까?
샘: 모델을 테스트합니다.개발한 모델이 여전히 잘 예측하고 있는지 항상 확인하십시오.모델의 "지원"(모델을 구축하는 데 사용되는 예측 변수의 범위)이 잘 이해되었는지 확인하고 모델을 사용하는 새로운 상황이 해당 "지원" 범위를 벗어나 예측하는지 확인하십시오.새 데이터를 충분히 수집하면 모델을 다시 훈련할 수 있으므로 이전 모델과 새 모델을 비교하여 예측이 유사한지 또는 다른지 확인해야 합니다.
AI/ML 모델 작업에 필요한 컴퓨터/기계 유형은 무엇입니까? RAM이 충분한 노트북에서 할 수 있습니까?
카메론: 그것은 정말로 당신이 무엇을 하느냐에 달려 있습니다. 수백만 개의 매개변수가 포함된 거대한 데이터 세트와 모델로 모든 ML이 수행되는 것은 아닙니다. 스마트폰에는 많은 AI/ML을 수행하기에 충분한 처리 능력이 있을 것입니다. 크기가 수십 기가바이트인 데이터 세트로 작업을 시작하면 데이터를 배치로 처리하더라도 PC에서 수행할 수 있는 작업의 한계에 부딪히기 시작할 수 있습니다. 이미지나 비디오로 딥 러닝을 수행하는 경우 병렬 및 GPU 컴퓨팅이 매우 중요해집니다. 이 시점에서 아마도 조직 내에서 공유 컴퓨팅 리소스를 사용하거나 클라우드 기반 서비스를 사용하고 있을 것입니다. Google Colaboratory는 딥 러닝을 위해 GPU 컴퓨팅에 무료로 쉽게 액세스할 수 있는 방법입니다.해당 서비스에서 GPU 컴퓨팅 성능의 상위 계층에 대한 액세스 비용을 지불할 수도 있습니다.
제이슨: 어떤 유형의 ML 모델을 사용하시겠습니까?얼마나 많은 데이터가 있습니까? 내가 수행한 많은 모델링 작업은 랩톱 워크스테이션(쿼드 코어 프로세서, 32GB RAM 등)에서 이루어졌습니다. 나는 우리가 사용한 결함 탐지 프로젝트에서 일했습니다. 컨벌루션 신경망 프로세스에서 카메라 피드의 제조 결함을 식별합니다. 우리는 이 문제를 해결하기 위해 하이엔드 맞춤형 게임용 PC를 만들었고 내가 프로젝트를 떠나기 전에 서버 배포를 조사하고 있었습니다. 내 노트북 워크스테이션과 게임기의 가장 큰 차이점은 그래픽 카드입니다. 이미지 분석 및/또는 GPU 컴퓨팅을 수행하려는 경우 노트북 그래픽 카드로는 충분하지 않을 수 있습니다. 속도와 메모리가 문제라면 서버를 사용하거나 분산 컴퓨팅을 조사할 수 있습니다.
경력 개발에 가장 도움이 된 도구/기술(청소, 결합, 모델링 또는 기타)은 무엇입니까?
카메론: 호기심, 어려운 일을 시도하려는 의지, 장애물을 극복할 방법을 찾아내려는 끈질긴 결단력, 그리고 직접 해봄으로써 배우는 것이 어떤 특정한 도구와 기술보다 훨씬 더 중요했습니다. 도중에 필요한 것을 선택합니다.
제이슨: 전에 JMP Recode 유틸리티가 있었는데, 저에게 도움이 된 도구 중 하나는 데이터 정리를 위해 배열과 행렬을 활용하는 것이었습니다.약간의 매트릭스 수학, 매트릭스 조작 및/또는 스크립트의 논리적 인덱싱이 데이터에서 문제를 찾고 수정하는 데 할 수 있는 일이 놀랍습니다. 정규식은 텍스트 데이터 정리/뭉개기와 관련하여 제 경력에 큰 변화를 가져온 또 다른 도구입니다. 이제 Recode가 있으므로 이것은 제가 가장 좋아하는 데이터 정리 도구입니다!텍스트에 대한 정규식을 지원하며 숫자 데이터에서 문제를 쉽게 찾을 수 있습니다. 결과를 수식으로 저장할 수 있기 때문에 recode는 내가 사용했던 대부분의 스크립팅을 자동으로 수행합니다.이상값 탐색 및 패턴 탐색 유틸리티는 데이터 정리를 위해 스크립트로 처리하는 데 사용했던 작업도 많이 수행합니다. 모두 시간을 크게 절약할 수 있습니다!무엇보다도 분석 워크플로우의 모든 단계에서 데이터 비주얼리제이션을 활용하여 데이터 이면의 이야기를 밝혀낸 것이 제 경력에 가장 큰 영향을 미쳤다고 말하고 싶습니다.
샘: 솔직히 좋은 데이터 그래프를 만드는 것이 제가 할 수 있는 가장 효과적인 일이 아닐까 합니다. 그림으로 담으면 데이터와 문제에 대한 이야기를 들려줄 것입니다. 두 번째로 중요한 도구는 쓰기입니다. 분석 결과를 전달하고, 학습한 내용을 요약하고, 추가 작업을 위한 권장 사항을 만드는 것입니다. 기록하지 않으면 사람들은 무슨 일이 있었는지 기억하거나 알지 못할 것입니다.
기계적 모델에 기반한 프로세스(작동 및 제어)를 기반으로 하는 화학 또는 제약 산업이 블랙박스 대안으로 뛰어들도록 어떻게 설득할 수 있습니까?하이브리드 접근 방식이 첫 번째 단계입니까?
카메론: 기계적 모델이 어떤 식으로든 그들을 방해하고 있습니까? 저에게는 기계적 모델이 손이 닿는 범위 내에 있을 때 항상 선호됩니다. 공을 던질 때 어떤 일이 일어날지 이해하기 위해 물리학 교육이 필요하지 않은 것처럼 컴퓨터는 많은 예를 보고 어떤 것이 어떻게 작동하는지 배울 수 있습니다. 그러나 모든 물리 계산 및 매개변수 값을 알고 있다면 정확한 예측을 위해 데이터가 거의 필요하지 않습니다. 상황을 첫 번째 원칙으로 더 잘 분류할수록 필요한 데이터가 줄어들고 외삽에 대한 걱정도 줄어듭니다.데이터 기반 모델("블랙 박스" 대신 사용하겠습니다)은 지식 격차를 해결하거나 복잡성을 근사화하는 데 매우 유용합니다. 100% 답을 얻으려면 몇 달이 걸리지만 데이터 기반 모델을 사용하여 지금 바로 95% 답을 얻을 수 있다면 무엇을 선택하시겠습니까? 첫 번째 옵션의 기회 비용은 얼마입니까(여분의 시간으로 무엇을 할 수 있는지 생각해 보십시오)?
Sam이 사용한 헤드셋(Plantronics 655 DSP)과 그의 책을 구하는 방법에 대한 질문이 있었습니다.e-book은 에서 직접 주문할 수 있습니다. SAS 프레스 하드 카피는 에서 사용할 수 있습니다. 아마존 .두 번째 버전이 진행 중이며 2021년에 제공될 예정입니다!
이 에피소드의 온디맨드 버전을 시청할 수 있습니다. 통계적으로 말하면 그리고 읽기 발췌 의 과학 장에서 다크 데이터.모든 어두운 데이터를 분류하고 더 잘 처리할 수 있으면 모델이 훨씬 더 유용해집니다. 좋은 질문을 해주신 시청자 여러분께 감사드리며, 전문 지식을 더 많이 공유해 주신 Cameron, Sam, Jason에게도 감사드립니다!
