
tanh 활성화 함수의 역전파는 다음과 같이 구해집니다.
1. tanh 함수의 출력을 구합니다: o = tanh(z) = 2 / (1 + exp(-2z)) - 1
2. 오차를 구합니다: e = dL/do
3. 오차를 tanh 함수의 출력으로 전파합니다: dL/dz = dL/do * do/dz = e * (1 - o^2)
4. 가중치 업데이트 공식은 다음과 같습니다: dw = dL/dz * dz/dw = e * (1 - o^2) * x
여기서 x는 입력 데이터입니다.
이러한 과정을 통해 tanh 활성화 함수의 역전파를 구할 수 있습니다.
2025-07-26 23:23