개발자 Q&A

개발하다 막혔다면? 여기서 질문하세요! 초보부터 고수까지, 함께 고민하고 해결하는 공간입니다. 누구나 자유롭게 질문하고 답변을 남겨보세요!

2025.07.26 23:22

Trader_tan에 대한 질문

목록
  • Swift매니아 1일 전 2025.07.26 23:22
  • 13
    1
저는 Trader_tan에 대해 공부 중입니다. 그러나 tanh 활성화 함수의 역전파에 대해 이해하지 못하고 있습니다. tanh의 가중치 업데이트 공식이 어떻게 구해지는지 알려주세요.

    댓글목록

    profile_image
    나우호스팅  1일 전



    tanh 활성화 함수의 역전파는 다음과 같이 구해집니다.

    1. tanh 함수의 출력을 구합니다: o = tanh(z) = 2 / (1 + exp(-2z)) - 1
    2. 오차를 구합니다: e = dL/do
    3. 오차를 tanh 함수의 출력으로 전파합니다: dL/dz = dL/do * do/dz = e * (1 - o^2)
    4. 가중치 업데이트 공식은 다음과 같습니다: dw = dL/dz * dz/dw = e * (1 - o^2) * x

    여기서 x는 입력 데이터입니다.

    이러한 과정을 통해 tanh 활성화 함수의 역전파를 구할 수 있습니다.

    2025-07-26 23:23

  • 개발자 Q&A 포인트 정책
      글쓰기
      50P
      댓글
      10P
  • 전체 39,449건 / 5 페이지

검색

게시물 검색