아래와 같은 미분방정식이 있다. 의 분포를 라고 하자. 그러면 아래를 만족하고 이것을 Instantaneous change of variables formula리 한다. 위의 식에서 입력변수가 stochastic process 로써 는 에 관한 함수로 간주된다. 증명을 해보자. 라는 사실과 log continuity equation을 이용하면! 지금까지 했던것은 Neura ode와 연관있고 neural ode는 flow matching과 관계 있고 flow matching의 응용으로 음성향상에 쓰인 FlowSE [1]가 … Read more
아래와 같은 continuity equation이 있다고 하자. 위의 식을 좀더 전개해보자. 이므로 이것을 contiuity equation에 대입하자. 그러면 이것을 로 나누자. 이것을 다시 정리하면 아래의 논문을 이해하는데 큰 자산이 될것이다. References [1] Lee, S., Cheong, S., Han, S., & Shin, J. W. FlowSE: Flow Matching-based Speech Enhancement. ICASSP 2025. doi:10.1109/ICASSP49660.2025.10888274.
미분 방정식 시간 가 커지는 미분방정식 있다고 하자. 분포를 라고 표현하자. 위의 미분 방정식은 아래와 같은 형태로도 쓸 수 있다. 그러면 의 분포가 라는 얘기죠. Continuity equation은 아래와 같은 식이다. 이 continuity equation을 증명해보자. 주목할점이 있다. 의 표현이다. random vector의 pdf의 change of variable 쓴거라 보면 된다. 일 때 continuity equation 증명을 위하여 … Read more
softplus의 특징에 대해 알아보자. softplus에 대해서는 아래 글에서 확인할 수 있다. softplus의 정의 softplus는 아래와 같이 정의되고요 첫번째 특징 가 뭐든 간에 두번째 특징 가 엄청크면 이므로 , 세번째 특징 는 폭발적으로 커지지만 는 선형적으로증가
softplus의 정의에 대해 알아보자. softplus는 함수다 기호로는 라고 쓴다. 정의는 어떻게 될까?
jump process 가 있다고 하자. 고정된 시간 에 대하여 그리고 state 에 대하여 얘기해보자. 에서 라고 하자. 이때 에서 만큼 흘를 동안 jump가 생기지 않을 확률을 구해보자. 식은 아래와 같다. 이거를 좀 바꿔 써보자. 근데 이것은 survival function을 이용해 표현 가능함 ( jump process의 survival function ) survival function closed form 구했으니 이점을 이용하면 ( jump process의 survival … Read more
jump process 가 있다고 하자. 이것의 survival function 를 구해보자. survival function을 만들기 위하여 어떤 미분방정식을 만들어줘야 함 를 생각하자 이것은 일때 흐르는동안 jump가 없을 확률이다. 동안 jump가 없으려면 초동안 jump가 없어야 하고 남은 동안 jump가없어야 한다. 동안 jump가 없을 확률은 survival function을 이용해 이라 나온다. 동안 jump가 없을 확률은 intensity function인 이용해 구할 수 … Read more
jump process 가 있다고 하자. ( jump process의 jump intensity, rate function, ) 이라고 하자. 이것이 에서부터 까지 변화가 없을 확률 즉 에서 jump가 없을 확률을 표현하는 함수가 survival function이다. 기호로는라 쓴다. 정의는! 이것을 다시 써보면
가 continuous jump process라고 하자. 가 가질수 있는 값은 continuous이라는 것이고 또한 연속적이다. 나는 지금 를 jump process로 정의하고 싶다. jump process는 가 가만히 있다가 갑자기 다른 state로 이동하는 것을 의미한다. 그러면 이것을 정의하기 위하여 어떤 방법을 취하는가? 바로 jump intensity 혹은 rate function 를 것을 정의한다. 의 뜻은 일때 단위시간동안 에서 다른 state로 jump … Read more
아래와 같은 continuous normalizing flow (CNF) 를 기술하는 상미분방정식 (ode: ordinary differentail equation)이 있다고 하자. 는 시작점에 대한 분포이다. 이제 $x_t = \psi_t(x)$라 하자. 그리고 $x_t$의 pdf (probability density function)을 $p_t$라고 하자. $p_t$는 pushforward measure이므로 아래와 같이 정의된다. 이제 의 log likelihood인 $\log p_t(x_t)$를 알려고 한다. log-density가 더 맞는 말인것 같기도 하다. 전설의 논문 NeurODE … Read more