$\int_{-\infty}^{\infty} \delta(x) \ln\delta(x) dx $ 디랙델타와 로그 디랙델타의 적분


$\int_{-\infty}^{\infty} \delta(x) \ln\delta(x) dx $을 구해보자. 어떻게 구할 수 있을까? 처음에는  $u = \delta(x), v = \ln \delta(x)$라고 하고 부분적분을 하려고 했다.

그럴려면 $\delta(x)$의 미분 적분을 알아야 되는데, 어렵고. 다른식으로 생각해보자.

$\delta(x)$는 probability pdf 라는 사실에 주목해보자.

$\delta(x)$의 특징을 보면 $\int \delta(x) dx = 1$ 이고 $x\neq 0$ 일 때 $\delta(x) = 0$.

즉 pdf 로써 $\delta(x)$는 0에만 확률이 있고 다른곳에는 확률이 없다는 것을 의미한다.

$\delta(x)$가 확률분포라면 $x=0$라는 사건만 일어난다는 의미이므로, 엔트로피는 0이 된다.

그런데 엔트로피는 아래와 식과 같다.
$$H(\delta)= E_\delta [ -\log_2 \delta(X)] = -\int \log_2 \delta(x) \delta(x) dx= 0$$
$\log_2 \delta(x) = \frac{\ln \delta(x)}{\ln 2}$ 이므로 구하려고 하는 적분은 아래와 같다.
$$ \int \delta(x) \ln delta(x) dx = – \ln 2 H(\delta) = 0$$

Leave a Comment