최근 통계적으로 말하기 저명한 작가, 통계 학자 및 교육자 인 데이비드 핸드의 오프닝 본회의는 머신 러닝과 인공 지능을 이해하기 위해 전문가 패널리스트 인 Cameron Willden, WL의 통계 학자와 매우 흥미로운 토론을 할 수있는 무대를 마련했습니다. 핏덩어리; Wildstats Consulting의 창립자 Sam Gardner; 및 JMP의 수석 시스템 엔지니어 인 Jason Wiggins.
에서 이전 게시물 , 패널리스트는 라이브 스트림 이벤트 중에받은 전문 지식 및 교육에 대한 질문에 답변했습니다.이 게시물에서는 데이터 및 모델링에 대한 질문에 대한 생각을 공유합니다.첫 번째 질문은 David Hand의 최신 책의 이름 인 다크 데이터에 관한 것입니다. 다크 데이터 : 모르는 것이 중요한 이유 (추천).
다크 데이터의 반대는 밝은 데이터입니다. 드물지 않습니까?
샘 : 종종 조직의 데이터 과학 여정의 초기 단계에서 많은 다크 데이터 문제가 있음을 발견합니다.해결해야 할 주요 문제는 올바른 데이터를 얻는 방법입니다. 정말로 문제를 해결하고 잘 해결하기를 원하는 조직은 "밝고"좋은 데이터를 생성하고 수집 할 수있는 접근 방식, 전략 및 시스템을 갖게됩니다.
JMP가 누락 된 데이터 만 "적합"할 수 있습니까 (예 : 지원 벡터 머신 또는 GenReg 사용)? 어떻게 든 기존 데이터와 함께 누락 된 데이터의 구조를 사용하여 맞추려면-일종의 역 피팅과 비슷합니까?이것은 "정보 누락"과는 다릅니다.
제이슨 : 결 측값 탐색 유틸리티에서 다변량 SVD 대치 및 자동화 된 데이터 대치를 확인하고 이것이 원하는 작업을 수행하는지 확인합니다.
샘 : JMP 및 JMP Pro 데이터의 상관 관계 구조를 기반으로하는 다중 대치를 수행 할 수 있습니다.온라인 도움말을 참조하십시오. 누락 된 데이터 대치 과 결 측값 탐색 .
상호 배타적이지 않은 다중 레이블 데이터를 처리하기 위해 어떤 종류의 기계 학습 모델을 사용할 수 있습니까?
Cameron : 내가 당신을 올바르게 이해한다면, 당신은 단순히 여러 응답을 가지고 그것을 성취 할 수 있습니다.예를 들어, 모델은 어떤 사람을 늙거나 어리거나 남성과 여성으로 구분하기 위해 이미지를 처리하고 이미지화 할 수 있습니다.
공정 데이터의 변동성이 높은 공정 결과물에 대한 예측 모델링에 접근하는 가장 좋은 방법은 무엇입니까?
Cameron : 높은 변동성을 극복하는 가장 좋은 방법은 많은 양의 데이터를 사용하는 것입니다. 예를 들어 평균의 표준 오차는 분모에서 표본 크기의 제곱근을 갖습니다.
제이슨 : 공정 변동의 원인을 식별합니다. 지속적으로 데이터를 측정하고 수집하는 데 투자하십시오. 프로세스에서 얼마나 많은 중요한 프로세스 입력이 측정됩니까? 출력의 변동을 적절히 설명하기에 충분합니까? 나는 이와 같은 문제를 이해하기위한 프로젝트에 참여하고 이끌었다.까다로울 수 있지만 필요합니다.모델링은 마술이 아닙니다. 성공하려면 좋은 정보가 필요합니다. 난해한 모델에 뛰어 들기 전에 먼저 여기에 투자 할 것입니다.
더 빨리 보상을 받기 위해 (돈 절약) 작은 데이터 세트에서 새 모델을 훈련시키려는 경우,이를 수행하는 데 유용한 유용한 팁은 무엇입니까? 완벽하지 않은 모델을 사용하는 경우에도 " 충분하다."
Cameron : 딥 러닝 영역에서 전이 학습은 적은 비용으로 더 많은 일을 할 수있는 방법을 제공합니다.계획된 실험은 중복 정보의 양을 최소화하는 방식으로 포인트를 계획하기 때문에 데이터 포인트 당 관계에 대한 더 많은 정보를 얻는 또 다른 방법입니다.즉, 일반적으로 요인 간의 상관 관계가 거의 없으므로 분산 인플레이션 요인이 1과 같거나 매우 가깝습니다.
제이슨 : "leave one out"또는 k-fold 교차 검증과 같은 전략은 과적 합을 피하기 위해 더 작은 데이터 세트로 모델을 훈련 할 때 유용 할 수 있습니다.두 교차 검증 전략을 사용하여 소규모 데이터 세트에 대한 페널티 회귀 모델로 성공했습니다.모델을 작성할 때 실제와 예측을 얼마나 자주 확인합니까? 예측이 비즈니스 결정을 내리는 데 적합하다면 모델은 "충분히 충분"할 수 있습니다.
경험상 문제를 해결하기 위해 연속 / 반복 학습 모델과 오프라인 / 일회성 모델을 적용해야하는 시간의 비율은 얼마입니까?각각의 장단점은 무엇입니까?
Cameron : 그것은 응용 분야에 따라 크게 달라질 것입니다. 선행 지표를 기반으로 제품에 대한 수요를 모델링하는 경우 이러한 관계가 시간이 지남에 따라 발전 할 것으로 기대해야합니다. 생산 된 모델이 시간이 지남에 따라 진화하고 적응하는 것은 매우 유리할 것입니다. 여러 물리적 특성을 기반으로 기계 출력을 모델링하는 경우 관계는 시간이 지남에 따라 안정적으로 유지 될 수 있으며 온라인 학습에 대해 많이 걱정할 필요가 없습니다. 예외는 더 많은 데이터가 들어올수록 모델의 모수 추정치가 시간이 지남에 따라 더 정확 해지기를 원하는 경우입니다.
프로세스를 조사 / 관찰 할 장소가 아닌 경우 문제의 원인을 놓칠 수 있습니다. 또한 COVID는이를 복잡하게 만듭니다. 연구자 / 문제 해결사 / 데이터 과학자로서 데이터를 수집 할 "거기에"있을 수없는 경우 어떻게해야합니까?
Cameron : 좋은 질문입니다. 제가 정말로 말할 수있는 유일한 것은 데이터를 수집 한 사람들을 데이터 분석에 참여시키는 방법을 알아내는 것입니다. 분석 배경이 없더라도 토론에 참여할 수있을만큼 그래픽 분석을 잘 이해하고 직접 경험을 통해 통찰력을 얻어 토론 및 해석에 기여할 수 있습니다.
제이슨 : 이것은 힘든 일입니다!프로세스를 확인하는 데 사용할 수있는 가상 도구가 있습니까? 누가 프로세스를 실행하고 있습니까? 데이터에서 발생하는 문제를 설명 할 수있는 프로세스에 대해 관찰하도록 교육을받을 수 있습니까?가상 프로세스 워크를 할 수 있습니까?
데이터가 풍부하면 데이터가 편향되지 않는다는 잘못된 보안이 발생할 수 있습니다.새로운 반사 실적 데이터가 도착하는 동안 많은 편향된 데이터를 사용하는 완화 단계는 무엇입니까?
샘 : 모델을 테스트하십시오.개발 한 모델이 여전히 잘 예측되는지 항상 확인하십시오.모델의 "지원"(모델을 구축하는 데 사용되는 예측 변수의 범위)이 잘 이해되어 있는지 확인하고 모델을 사용하는 새로운 상황이 "지원"범위를 벗어난 것을 예측하는지 확인하십시오.충분한 새 데이터를 수집하면 모델을 재 학습 할 수 있으므로 이전 모델을 새 모델과 비교하여 유사하거나 다른 예측을 수행하는지 확인해야합니다.
AI / ML 모델 작업에 어떤 유형의 컴퓨터 / 머신이 필요합니까? RAM이 충분한 랩톱에서 수행 할 수 있습니까?
Cameron : 그것은 당신이하는 일에 달려 있습니다. 모든 ML이 수백만 개의 매개 변수를 포함하는 방대한 데이터 세트 및 모델로 수행되는 것은 아닙니다. 많은 AI / ML을 수행하기에 충분한 처리 능력이 스마트 폰에있을 것입니다. 수십 기가 바이트 크기의 데이터 세트로 작업을 시작하면 데이터를 일괄 처리하더라도 PC에서 수행 할 수있는 작업의 한계에 부딪히기 시작할 수 있습니다. 이미지 또는 비디오로 딥 러닝을 수행하는 경우 병렬 및 GPU 컴퓨팅이 매우 중요합니다. 이때 조직 내에서 공유 컴퓨팅 리소스를 사용하거나 클라우드 기반 서비스를 사용하고있을 것입니다. Google Colaboratory는 딥 러닝을 위해 GPU 컴퓨팅에 무료로 쉽게 액세스 할 수있는 방법입니다.해당 서비스에서 더 높은 계층의 GPU 컴퓨팅 성능에 대한 액세스 비용도 지불 할 수 있습니다.
제이슨 : 어떤 유형의 ML 모델을 사용 하시겠습니까?얼마나 많은 데이터가 있습니까? 제가 수행 한 모델링 연습의 대부분은 노트북 워크 스테이션에서 수행되었습니다 : 쿼드 코어 프로세서, 32GB RAM 등. 저는 우리가 사용한 결함 감지 프로젝트에서 컨볼 루션 신경망 공정의 카메라 피드에서 제조 결함을 식별합니다. 우리는이 문제를 해결하기 위해 고급 사용자 지정 게임 PC를 구축했으며 프로젝트를 떠나기 전에 서버 배포를 조사했습니다. 내 노트북 워크 스테이션과 게임기의 가장 큰 차이점은 그래픽 카드입니다. 이미지 분석 및 / 또는 GPU 컴퓨팅을 계획하는 경우 노트북 그래픽 카드로는 충분하지 않을 수 있습니다. 속도와 메모리가 문제가되는 경우 서버를 사용하거나 분산 컴퓨팅을 조사 할 수 있습니다.
경력 개발에 가장 큰 도움이 된 도구 / 기술 (청소, 결합, 모델링 또는 기타)은 무엇입니까?
Cameron : 호기심, 힘든 일을 시도하려는 의지, 장애물을 극복 할 수있는 방법을 찾기위한 끈질긴 결심, 행동을 통한 학습은 특정 도구와 기술보다 훨씬 더 중요했습니다. 길을 따라 필요한 것을 선택합니다.
제이슨 : 전에 JMP Recode 유틸리티가 있었는데 데이터 정리를 위해 어레이와 매트릭스를 활용하는 데 도움이 된 도구 중 하나가 있다고 생각합니다.약간의 행렬 수학, 행렬 조작 및 / 또는 스크립트의 논리적 인덱싱으로 데이터의 문제를 찾고 수정할 수 있다는 것은 놀랍습니다. 정규식은 텍스트 데이터 정리 / 충전과 관련하여 제 경력에 큰 변화를 가져다 준 또 다른 도구입니다. 이제 Recode가 생겼으니 이것이 제가 가장 좋아하는 데이터 정리 도구입니다!텍스트에 대한 정규식을 지원하며 숫자 데이터에서 문제를 쉽게 찾을 수 있습니다. 결과를 수식으로 저장할 수 있으므로 recode는 내가 사용했던 대부분의 스크립팅을 자동으로 수행합니다.이상치 탐색 및 패턴 탐색 유틸리티는 데이터 정리를 위해 스크립트로 처리하는 데 사용했던 많은 작업을 수행합니다. 모두 시간을 크게 절약 할 수 있습니다!무엇보다 분석 워크 플로의 모든 단계에서 데이터 비주얼리 제이션을 활용하여 데이터이면의 이야기를 파악한 것이 제 경력에 가장 큰 영향을 미쳤습니다.
샘 : 솔직히 좋은 데이터 그래프를 만드는 것이 내가 할 수있는 가장 효과적인 일일 것입니다. 사진에 넣으면 데이터와 문제에 대한 이야기를 들려줍니다. 두 번째로 중요한 도구는 쓰기입니다. 분석 결과를 전달하고, 학습 한 내용을 요약하고, 추가 조치를위한 권장 사항을 작성하는 것입니다. 기록하지 않으면 사람들은 무슨 일이 있었는지 기억하거나 알지 못할 것입니다.
공정 (운영 및 제어)을 기계 모델을 기반으로하는 화학 또는 제약 산업이 블랙 박스 대안으로 뛰어 들도록 설득하려면 어떻게해야합니까?하이브리드 접근 방식이 첫 번째 단계입니까?
Cameron : 기계 론적 모델이 어떤 식 으로든 그들을 막고 있습니까? 나에게 기계 론적 모델은 도달 범위가 좁을 때 항상 선호됩니다. 공을 던질 때 일어날 일을 이해하기 위해 물리학 교육이 필요하지 않은 것처럼, 컴퓨터는 많은 예를 통해 무언가가 어떻게 작동하는지 배울 수 있습니다. 그러나 모든 물리 계산과 매개 변수 값을 알고 있다면 정확한 예측을 위해 데이터가 거의 필요하지 않습니다. 상황을 첫 번째 원칙으로 더 잘 분류할수록 필요한 데이터가 적고 외삽에 대해 걱정할 필요도 줄어 듭니다.데이터 기반 모델 ( "블랙 박스"가 아닌이를 사용)은 지식 격차를 해결하거나 복잡성을 근사화하는 데 매우 유용합니다. 100 % 답변을 얻는 데 수개월이 걸리지 만 데이터 기반 모델을 사용하여 지금 당장 95 % 답변을 얻을 수 있다면 무엇을 선택 하시겠습니까? 첫 번째 옵션의 기회 비용은 얼마입니까 (추가 시간으로 무엇을 할 수 있는지 생각해보십시오)?
Sam이 사용한 헤드셋 (Plantronics 655 DSP)과 그의 책을 얻는 방법에 대한 질문이있었습니다.전자 책은 다음에서 직접 주문할 수 있습니다. SAS Press 하드 카피는 아마존 .두 번째 에디션이 진행 중이며 2021 년에 출시 될 예정입니다!
이 에피소드의 주문형 버전을 볼 수 있습니다. 통계적으로 말하기 그리고 읽기 발췌 과학 장에서 다크 데이터.모든 다크 데이터를 분류하고 더 잘 처리 할 수 있으면 모델이 훨씬 더 유용해질 것입니다. 좋은 질문을 해주신 시청자 분들께 감사 드리며, 전문 지식을 더 많이 공유 해주신 Cameron, Sam, Jason에게 감사드립니다!
