
시그모이드 미분
6번 에서 σ(z)=1+e−z1 를 구현했죠. 이제 미분 을 구합니다. 역전파(backprop) 수식의 기본 재료예요.
σ′(z)=σ(z)⋅(1−σ(z))
놀랍도록 간단 — 출력값만으로 미분이 표현 됩니다 (exp 재계산 불필요).
유도
σ(z)=(1+e−z)−1. 연쇄법칙:
σ′(z)=−(1+e−z)−2⋅(−e−z)=(1+e−z)2e−z
σ(z)⋅(1−σ(z)) 로 바꿔쓰면 위와 같습니다.
성질
- σ′(0)=0.25 — 최댓값
- ∣z∣ 커질수록 σ′→0 — vanishing gradient 의 근원
- 항상 양수, 대칭 (σ′(z)=σ′(−z))
과제
함수 sigmoid_prime(z) 를 완성하세요.
- 스칼라 또는 NumPy 배열
z 입력.
- 반환: 같은 shape의 미분값.
- 힌트: 먼저 σ(z) 계산 → σ⋅(1−σ).
테스트 케이스
| # | 이름 | 입력 | 기대 |
|---|
| 1 | σ'(0) = 0.25 | 0 | 0.25 |
| 2 | 큰 값에서 0으로 | 10 | ≈ 4.5e-5 |
| 3 | 대칭성 | σ'(z) = σ'(-z) | 성립 |
| 4 | 벡터 | [-1, 0, 1] | [0.197, 0.25, 0.197] |
| 5 | 양수 | 모든 출력 > 0 | |