딥 러닝 질문 및 리소스안녕하세요 여러분,
Torch 추가 기능의 일부 고급 설정에 대한 추천서나 책이 있는 사람이 있는지 궁금합니다.
예를 들어 X 및 Y 슬라이드 시그마는 무엇입니까? L1 값을 선택하는 방법은 무엇입니까? 등.
이미지와 테이블 형식 모델의 조합에 대한 권장 리소스도 크게 감사하겠습니다.
최상의,
클로비스
Re: 딥 러닝 질문 및 리소스@cweisbart 질문에 감사드립니다. 추가 기능은 여러 주요 구성 요소의 조합으로, 시간이 지남에 따라 교육 자료를 계속 확장할 계획이지만 현재로서는 훌륭하고 확실한 참조 자료가 하나도 없을 것입니다. 지금은 몇 가지 아이디어가 있습니다.
- 매개변수 라벨 바로 위에 마우스를 올리면 간단한 팝업 설명이 표시됩니다. 예를 들어 X 슬라이드 시그마의 경우: "X축을 따른 가우스 무작위 이동의 표준 편차"입니다.
- 일반적으로 세 번째 열의 모든 고급 옵션은 훈련 중 동적 이미지 확대를 위한 것입니다. 증강은 각 배치에 대한 의사 데이터를 생성하기 위한 강력한 딥 러닝 방법입니다. 예를 들어 개나 고양이 사진을 가로로 뒤집어도 개나 고양이로 분류될 수 있으며, 모델은 더 넓은 범위의 가능한 이미지를 볼 수 있습니다. 이동, 회전, 흐림과 같은 다른 이미지 조작에도 마찬가지입니다. 증강을 통해 훈련된 모델은 더 잘 일반화되는 경향이 있습니다.
- L1 페널티는 GenReg의 올가미 페널티와 유사하며 솔루션을 희소화하는 경향이 있습니다. 시도해볼 만한 좋은 값은 1e-6과 1e-5입니다. 마찬가지로 Weight Decay는 능선 패널티와 같으며 동일한 두 값이 종종 잘 작동합니다.
- 이미지와 테이블 형식 모델의 조합은 이 추가 기능에서 다소 독특합니다. 우리는 보다 유연하게 믹스 앤 매치할 수 있는 기능을 제공하기 위해 이런 방식을 사용했습니다. 테이블 형식 모델은 항상 이미지 모델 다음에 실행되며 이미지 모델의 임베딩을 입력으로 사용합니다.
- 문서(추가 기능 > Torch Deep Learning > 도움말 클릭)의 28~31페이지에 몇 가지 추가 세부 정보가 있습니다.
- 우리는 전체적으로 상당히 표준적인 용어를 사용하려고 노력했기 때문에 특정 용어를 웹에서 검색하면 유용한 결과, 배경 및 예까지 제공될 수 있습니다. PyTorch 문서 자체의 히트는 매우 견고해야 합니다.
언제든지 더 많은 피드백이나 질문을 보내주세요. 더 빠른 GPU를 사용해보고 싶다면 TDL과 새로운 캠프파이어 서버가 있다는 것을 잊지 마세요.
Re: 딥 러닝 질문 및 리소스응답해주셔서 감사합니다. 매우 도움이 되었습니다! 저장된 .pt 파일에 대한 도움말 PDF를 스캔하고 있었습니다. "inet"는 이미지 백본이고, "tnet"은 임베딩 레이어, "linp"는 최종 레이어입니다. "_optim.pt" 파일도 있습니다. 그것은 무엇을 상징합니까? 미리 감사드립니다!
Re: 딥 러닝 질문 및 리소스@russ_wolfinger "_optim.pt" 파일에 대한 피드백을 주시면 매우 감사하겠습니다! 도움을 주셔서 미리 감사드립니다!
Re: 딥 러닝 질문 및 리소스@cweisbart 알려주셔서 감사합니다. "_optim.pt" 파일에는 재개할 수 있도록 교육 자체에 대한 정보뿐만 아니라 다른 모든 내용이 포함되어 있으므로 가장 큽니다. Torch 대화 상자에서 "Restore From"을 지정할 때 사용되지만 기본 모델 구성 요소를 별도로 저장하므로 배포에는 필요하지 않습니다.
