저는 현재 7.3 신경망의 최종 실습을 마무리하는 중입니다. 예측 모델링 및 텍스트 마이닝 모듈 JMP STIPS 강좌 .신경망을 피팅하고 은닉층 노드의 기본 기능을 회귀 모델로 이해하는 것은 직관적으로 쉬워 보입니다. 하지만 저는 방금 받은 아주 기본적인 교육을 받은 후에도 커뮤니티에서 더 많은 통찰력을 가진 누군가가 제가 여전히 갖고 있는 질문에 대한 답을 제공할 수 있을지 궁금하고 기대하고 있습니다. 논의하고 싶은 예에서는 파일을 사용했습니다. GreenPolymerProduction.jmp JMP의 표준 버전도 있습니다. 모델이 포함된 파일 사본이 첨부되어 있습니다.
모델의 다이어그램은 아래와 같습니다. 8개의 예측 변수 각각에 대한 데이터가 숨겨진 레이어의 3개 노드 각각에 공급되는 것을 볼 수 있습니다. 레이어의 각 노드는 TanH 활성화 함수를 사용합니다.
모델의 수식을 테이블에 저장했습니다. 세 노드 각각에 사용된 수식의 스크린샷은 다음과 같습니다.
질문 #1: 각 노드가 동일한 활성화 함수에 대해 서로 다른 공식을 갖는다는 사실을 어떻게 해석할 수 있습니까? 직관적으로 각 노드에서 동일한 공식을 사용해야 한다고 기대하는 것은 순진해 보이지만 JMP가 어떻게 아래 표시된 결과에 도달하는지 궁금합니다. 제가 생각한 한 가지 해석은 각 노드가 서로 다른 입력 데이터를 수신하므로 아래와 같이 서로 다른 공식이 나올 것이라고 예상할 수 있지만 이 가정은 크게 틀릴 수도 있습니다.
질문 #2: 초보자를 위한 신경망 읽기에 대한 좋은 참고 자료(현상학적 설명이 바람직함)를 공유할 수 있는 사람이 있습니까?
건배 @Victor_G , 이것이 내 이해를 향상시킬 것이라는 데 의심의 여지가 없습니다. 감사합니다.
안녕 @레셀 ,
새해 복 많이 받으세요 !
귀하의 질문에 관하여:
- 보편적 근사 정리( https://en.m.wikipedia.org/wiki/Universal_appimation_theorem )은 충분한 히든 레이어와 뉴런 수를 갖춘 신경망이 모든 선형 또는 비선형 함수를 나타낼 수 있다고 말합니다. 여러 개의 간단한 수학 함수(TanH, 시그모이드 등)의 가중치 조합에 의존하기 때문에 이러한 다양한 함수/프로파일을 근사화할 수 있습니다. 각 노드는 해결하려는 퍼즐(함수)의 유용한 조각을 가지려고 노력하므로 동일한 데이터가 들어오지만 (최종 함수의) 다른 부분이 생성되어 결합되어 원하는 출력을 얻습니다.
스크린샷에서는 세 개의 TanH 함수가 서로 다른 가중치(및 입력을 혼합하는 서로 다른 공식)와 결합되어 최종 예측 공식을 얻습니다.
리소스 정보:
- 신경망을 사용하여 함수를 재구성하는 예를 자세히 설명하는 다음 웹사이트를 살펴보세요. http://neuralnetworksanddeeplearning.com/chap4.html#:~:text=No%20matter%20what%20the%20function,m)%2C%20and%20many%20outputs
- 저는 또한 Josh Starmer가 간단한 사용 사례를 통해 신경망의 내부 작동에 대해 정말 훌륭하게 설명했던 YouTube 채널 StatQuest를 정말 좋아합니다. https://youtu.be/CqOfi41LfDw?si=leA0KeTcgSY3YW70
- MLU explain 팀이 만든 신경망 전용 학습 페이지도 있습니다. 정말 훌륭하고 따라하기 쉽습니다. https://mlu-explain.github.io/neural-networks/
- 마지막으로 이 대화형 신경망 놀이터에서 다양한 사용 사례 분류/회귀에 대한 다양한 신경망 구성을 시도하여 가중치의 훈련 및 피팅이 어떻게 수행되는지 확인할 수도 있습니다. https://playground.tensorflow.org/#activation=tanh&batchSize=10&dataset=circle®Dataset=reg-plane&learningRate=0.03®ularizationRate=0&noise=0&networkShape=4,2&seed=0.88242&showTestData=false&discretize=false&percTrainData=50&x=true&y=true&xTimesY=fal se&xSquared=false&ySquared =false&cosX=false&sinX=false&cosY=false&sinY=false&collectStats=false&problem=분류&initZero=false&hideText=false
이 첫 번째 답변이 도움이 되길 바랍니다 
