시그모이드 함수(sigmoid)함수의 미분, 그라디언트


시그모이드 함수의 미분에 대해 알아보자. 시그모이드 함수의 미분을 구해보고 예쁜꼴로 나타내보도록 하겠습니다. 시그모이드 함수가 무엇인지 아실 것이라고 봅니다.

시그모이드 (Sigmoid) 함수?

시그모이드 함수는 아래의 함수입니다. 시그마 $\sigma$ 기호를 써서 표현합니다.

$$\sigma(x) = \frac{1}{1+e^{-x}}$$

시그모이드 (Sigmoid) 함수의 미분

$$\frac{d\sigma(x)}{dx} = \frac{e^{-x}}{(1+e^{-x})^2}$$

위와 미분해도 충분하다고 생각할 수 있습니다. 그런데! 좀더 생각을 해보면 시그모이드 함수의 미분을 아래와 같이 시그모이드를 이용해서 표현할 수 잇습니다.

$$\frac{d\sigma(x)}{dx} = \sigma(x)(1-\sigma(x))$$

Leave a Comment